KI-Beschaffung: Worauf Sie bei KI-Servern und KI-Anbietern achten sollten
Künstliche Intelligenz hält rasant Einzug in Unternehmen, Bildungseinrichtungen und öffentliche Organisationen. Ob Lernplattformen, KI-Tutoren oder Content-Generatoren – immer mehr Prozesse werden durch KI unterstützt. Damit verschiebt sich die zentrale Frage von „Sollen wir KI einsetzen?“ zu „Wie beschaffen wir KI datenschutzkonform, rechtssicher und zukunftssicher?“ Die Auswahl eines KI-Anbieters oder eines KI-Servers in Deutschland hat langfristige Auswirkungen auf Datenschutz, digitale Souveränität, Kosten und Compliance.
Warum die richtige KI-Beschaffung entscheidend ist
Die Entscheidung für eine KI-Lösung betrifft weit mehr als die Auswahl eines Sprachmodells. Unternehmen müssen Datenschutz, den EU AI Act, digitale Souveränität, Integrationsfähigkeit und Wirtschaftlichkeit gleichermaßen berücksichtigen. Wer diese Punkte bereits vor der Beschaffung prüft, reduziert Risiken und schafft eine belastbare Grundlage für den langfristigen Einsatz von KI.
Checkliste zur KI-Beschaffung richtig nutzen
Diese Checkliste führt branchenübergreifend durch die wichtigsten Prüfpunkte einer KI-Beschaffung im Bildungsumfeld, mit Schwerpunkt auf Datenschutz und digitaler Souveränität, Recht und Compliance sowie Technik, Integration und Kosten. Sie ist als Arbeitsgrundlage gedacht: zum Abhaken, Ergänzen und als Diskussionsleitfaden mit Anbietern und im eigenen Haus.
Gehen Sie die acht Themenblöcke der Reihe nach durch. Was Sie nicht klar mit „erfüllt“ beantworten können, gehört in die Anforderungsliste an den Anbieter oder in die Risikobewertung. Die Liste der Roten Linien am Ende fasst die Punkte zusammen, bei denen ein „Nein“ in der Regel ein Ausschlusskriterium ist.
Hinweis: Diese Checkliste bietet Orientierung, ersetzt aber keine individuelle Rechts- oder Datenschutzberatung. Prüfen Sie regulatorische Punkte mit den zuständigen Stellen Ihrer Organisation.
Checkliste zur KI-Beschaffung – alle Prüfpunkte im Überblick
- Anforderungen an die KI-Beschaffung definieren
- KI datenschutzkonform einsetzen (DSGVO)
- Digitale Souveränität und KI-Server in Deutschland
- EU AI Act und rechtssichere KI
- KI in bestehende Systeme integrieren
- Gesamtkosten der KI realistisch bewerten
- Den richtigen KI-Anbieter auswählen
- KI erfolgreich einführen: Pilot, Einführung und Betrieb
- Rote Linien: typische Ausschlusskriterien
1. Anforderungen an die KI-Beschaffung definieren
Bevor Werkzeuge verglichen werden, muss der Zweck stehen. Sonst kauft man Technik auf der Suche nach einem Problem.
- Konkreter Anwendungsfall und messbarer Nutzen sind beschrieben (nicht „wir wollen KI“).
- Erfolgskriterien und Abbruchkriterien für einen Pilot sind definiert.
- Make-or-Buy geklärt: eigenes Hosting, fertige Lösung oder API-Anbindung?
- Verantwortlichkeiten sind benannt (fachlich, technisch, Datenschutz, Recht).
- Eine interne KI-Richtlinie/Nutzungsordnung existiert oder ist in Arbeit.
- Maßnahmen zur KI-Kompetenz der Mitarbeitenden sind eingeplant (Pflicht für Betreiber nach EU AI Act, Art. 4).
2. KI datenschutzkonform einsetzen (DSGVO)
Im Bildungsbereich werden oft personenbezogene und besonders schützenswerte Daten verarbeitet häufig auch von Minderjährigen.
- Rechtsgrundlage und Zweckbindung der Verarbeitung sind geklärt.
- Ein Auftragsverarbeitungsvertrag (AVV nach Art. 28 DSGVO) liegt vor.
- Datenminimierung: Es werden nur die wirklich nötigen Daten verarbeitet.
- Geklärt ist, ob Eingaben/Nutzerdaten zum Training der KI-Modelle verwendet werden – und dies lässt sich vertraglich ausschließen oder per Opt-out unterbinden.
- Speicher- und Verarbeitungsort der Daten ist transparent dokumentiert.
- Lösch- und Aufbewahrungskonzept ist geregelt (inkl. Datenrückgabe).
- Bei voraussichtlich hohem Risiko: Datenschutz-Folgenabschätzung (DSFA, Art. 35 DSGVO) ist vorgesehen.
- Betroffenenrechte (Auskunft, Löschung, Widerspruch) sind umsetzbar.
- Besondere Vorsicht bei Daten Minderjähriger und Gesundheits-/Sozialdaten.
3. Digitale Souveränität und KI-Server in Deutschland
Souveränität heißt: die Kontrolle über Daten, Modelle und die eigene Handlungsfähigkeit behalten – auch wenn sich Markt, Preise oder Anbieter ändern.
- Hosting in Deutschland oder der EU ist möglich und vertraglich zusicherbar.
- Open-Source-Optionen wurden geprüft (mehr Kontrolle, weniger Lock-in) und gegen proprietäre Lösungen abgewogen.
- Klar ist, wer das eingesetzte KI-Modell kontrolliert und wo es betrieben wird.
- Daten lassen sich jederzeit in offenen, gängigen Formaten exportieren.
- Eine Exit-Strategie inkl. vollständiger Datenrückgabe und -löschung ist vereinbart.
- Bei Drittlandtransfer (z. B. US-Anbieter): gültige Zertifizierung unter dem EU-US Data Privacy Framework geprüft, Standardvertragsklauseln als Rückfallebene vorhanden, gesamte Sub-Prozessor-Kette betrachtet. (Der Rahmen ist gerichtlich angefochten, ein Restrisiko bleibt damit).
- Abhängigkeit von einem einzelnen Anbieter ist bewusst bewertet (Zweitanbieter, Wechselbarkeit).
4. EU AI Act und rechtssichere KI
Hier entscheidet sich, ob ein Projekt überhaupt rechtskonform betrieben werden darf.
EU AI Act
- Eigene Rolle geklärt: Sind Sie Betreiber (Deployer) oder Anbieter der KI? (In der Beschaffung meist Betreiber.)
- Risikoklasse des Anwendungsfalls bestimmt. Achtung: Viele Bildungsanwendungen gelten als hochrisikoreich: Dtwa KI zur Entscheidung über Zugang/Zulassung, zur Bewertung von Lernergebnissen, zur Einstufung des Bildungsniveaus oder zur Überwachung von Prüfungen (Proctoring).
- Verbotene Praktiken ausgeschlossen, insbesondere Emotionserkennung in Bildungseinrichtungen ist untersagt.
- Transparenzpflichten erfüllt (Art. 50): Nutzende werden über die KI-Interaktion informiert, KI-generierte Inhalte werden gekennzeichnet.
- Bei Hochrisiko-Einsatz: menschliche Aufsicht, Protokollierung (Logs, in der Regel mind. 6 Monate) und ggf. eine Grundrechte-Folgenabschätzung (FRIA) eingeplant; Konformitätsnachweise des Anbieters (inkl. EU-Datenbank-Registrierung) eingefordert.
- Fristen im Blick: Die Hochrisiko-Pflichten waren ursprünglich ab dem 2. August 2026 vorgesehen; per „Digital Omnibus“ (vorläufige Einigung Mai 2026) ist für Annex-III-Systeme eine Verschiebung auf den 2. Dezember 2027 geplant, aber noch nicht final beschlossen. Vorbereitung nicht aufschieben.
Urheberrecht
- Rechtmäßigkeit der Trainingsdaten ist plausibel (kein offensichtlicher Rechtsbruch durch den Anbieter).
- Nutzungsrechte an den KI-Ergebnissen sind geklärt (auch kommerziell, auch nach Vertragsende).
- Eine Freistellung (Indemnification) gegen Schutzrechtsansprüche Dritter ist vertraglich geregelt.
- Umgang mit Quellen, Zitaten und Plagiatsrisiken im generierten Content ist bedacht.
Barrierefreiheit
- KI-Oberflächen und -Ausgaben erfüllen die Barrierefreiheitsanforderungen (BFSG seit Juni 2025, EN 301 549/WCAG) – relevant für viele digitale Produkte und Dienste.
5. KI in bestehende Systeme integrieren
Eine KI-Lösung ist nur so gut wie ihre Einbindung in die bestehende Systemlandschaft.
- Offene Schnittstellen vorhanden (API; für Lernplattformen z. B. LTI zur Moodle-/LMS-Anbindung).
- Integration in vorhandene Systeme geprüft (SSO/Single Sign-on, LMS, Verwaltung).
- Interoperabilität über offene Standards und Datenformate ist gegeben.
- Skalierbarkeit und Performance reichen für die erwartete Nutzerzahl.
- Umgang mit Modell-Updates ist geregelt (Versionierung, Reproduzierbarkeit, Änderungsmanagement).
- Qualitätssicherung ist möglich (Umgang mit Fehlern/Halluzinationen, Bias-Prüfung, menschliche Kontrolle).
- Informationssicherheit ist belegt (z. B. ISO 27001, BSI C5; Penetrationstests).
6. Gesamtkosten der KI realistisch bewerten
Der Lizenzpreis ist selten der größte Kostenblock.
- Gesamtkosten (TCO) inkl. Integration, Migration, Schulung und Betrieb sind kalkuliert.
- Preismodell verstanden (Festlizenz vs. nutzungsbasiert/Token) und Kostenobergrenzen sind setzbar.
- Versteckte Kosten geprüft (Datenexport-Gebühren, Premium-Support, zusätzliche Module).
- Kostenentwicklung bei Skalierung ist transparent.
- Ein kostengünstiger Pilot ist vor dem Vollausbau vorgesehen.
- Der erwartete Nutzen (Zeitersparnis, Qualität, Reichweite) ist messbar definiert.
7. Den richtigen KI-Anbieter auswählen
Sie gehen eine längerfristige Beziehung ein – prüfen Sie den Partner so sorgfältig wie das Produkt.
- Reife, Referenzen und wirtschaftliche Stabilität des Anbieters sind geprüft.
- Unternehmensstandort und Gerichtsstand sind bekannt und akzeptabel.
- Service-Level (Verfügbarkeit, Reaktionszeiten, Support) sind vertraglich fixiert.
- Alle Sub-Unternehmer/Sub-Prozessoren sind offengelegt.
- Relevante Zertifizierungen liegen vor (z. B. ISO 27001, BSI C5, perspektivisch ISO 42001 für KI-Management).
- Vertragsklauseln zu Datenrückgabe und -löschung bei Kündigung, Audit-Rechten, Haftung und Änderungsvorbehalten sind geregelt.
- Kündigungsfristen und ein geordneter Ausstieg sind vereinbart.
8. KI erfolgreich einführen: Pilot, Einführung und Betrieb
Die Beschaffung endet nicht mit der Unterschrift.
- Pilotphase mit realen Szenarien und echten Nutzenden ist geplant.
- Evaluationskriterien für die Pilot-Entscheidung stehen fest.
- Schulung und Change-Management sind eingeplant.
- Interne Nutzungsregeln/KI-Richtlinie sind kommuniziert.
- Verantwortliche Ansprechpersonen für den laufenden Betrieb sind benannt.
- Eine regelmäßige Überprüfung (Datenschutz, Qualität, Recht, Kosten) ist terminiert.
9. Rote Linien: typische Ausschlusskriterien
Wenn einer dieser Punkte zutrifft, sollten Sie sehr genau hinsehen: Meist ist es ein Grund zum Abbruch:
- Eingabe- und Nutzerdaten werden ohne Opt-out zum Training verwendet.
- Kein Auftragsverarbeitungsvertrag (AVV) verfügbar.
- Verbotene Praktiken nach EU AI Act (z. B. Emotionserkennung in Bildungseinrichtungen).
- Keine vertraglich zugesicherte Datenrückgabe und -löschung.
- Intransparente Verarbeitungskette mit Sub-Prozessoren in unsicheren Drittländern.
- Bei Hochrisiko-Einsatz: keine Konformitätsnachweise des Anbieters.
- Kein Datenexport in offenen Formaten faktischer Lock-in.
Fazit
KI-Beschaffung im Bildungsbereich ist kein reines Technikthema, sondern eine Abwägung aus Datenschutz, Recht, Souveränität, Integration und Wirtschaftlichkeit. Wer diese Punkte vor der Unterschrift klärt, vermeidet teure Korrekturen und behält die Kontrolle über die eigenen Daten und die eigene Handlungsfähigkeit. Der wichtigste Hebel ist oft der einfachste: erst den Zweck und die Anforderungen klären, dann den Markt prüfen, dann pilotieren nicht umgekehrt.
Häufige Fragen zur KI-Beschaffung
Warum sind KI-Server in Deutschland wichtig?
Der Standort eines KI-Servers entscheidet darüber, wo Daten verarbeitet werden und welche rechtlichen Rahmenbedingungen gelten. Ein Hosting in Deutschland oder zumindest innerhalb der EU kann die Einhaltung der DSGVO erleichtern und bietet häufig mehr Transparenz hinsichtlich Datenschutz und Datensicherheit. Entscheidend ist jedoch nicht allein der Serverstandort, sondern auch, wer Zugriff auf die Daten hat, welche Unterauftragnehmer beteiligt sind und ob personenbezogene Daten zum Training von KI-Modellen verwendet werden.
Reicht ein KI-Server in Deutschland aus, um DSGVO-konform zu sein?
Nein. Der Serverstandort ist nur ein Baustein. Für einen DSGVO-konformen KI-Einsatz müssen unter anderem die Rechtsgrundlage der Verarbeitung, ein Auftragsverarbeitungsvertrag (AVV), technische und organisatorische Maßnahmen sowie transparente Prozesse zur Datenverarbeitung vorliegen. Auch Löschkonzepte, Betroffenenrechte und die Kontrolle über Sub-Prozessoren spielen eine wichtige Rolle.
Was bedeutet digitale Souveränität bei KI?
Digitale Souveränität bedeutet, dass Organisationen die Kontrolle über ihre Daten, eingesetzten KI-Modelle und technischen Abhängigkeiten behalten. Dazu gehören offene Schnittstellen, die Möglichkeit zum Anbieterwechsel, Datenexport in offenen Formaten und die Freiheit, unterschiedliche KI-Modelle oder Hosting-Varianten zu nutzen. Ziel ist es, langfristige Abhängigkeiten von einzelnen Anbietern zu vermeiden.
Welche Anforderungen stellt der EU AI Act an Unternehmen?
Der EU AI Act verpflichtet Unternehmen dazu, den Einsatzzweck ihrer KI-Systeme zu bewerten und die jeweiligen gesetzlichen Anforderungen einzuhalten. Je nach Risikoklasse gelten unterschiedliche Pflichten. Besonders streng sind die Vorgaben für sogenannte Hochrisiko-KI-Systeme, beispielsweise in Bereichen wie Bildung, Personal oder kritischer Infrastruktur. Betreiber müssen außerdem sicherstellen, dass Mitarbeitende über ausreichende KI-Kompetenz verfügen und Transparenzpflichten eingehalten werden.
Worauf sollte ich bei der Auswahl eines KI-Anbieters achten?
Neben dem Funktionsumfang sollten Datenschutz, Datensouveränität und langfristige Flexibilität im Mittelpunkt stehen. Wichtig sind unter anderem ein transparenter Umgang mit Daten, ein AVV, offene Schnittstellen, klare Regelungen zur Datenlöschung, nachvollziehbare Sicherheitsmaßnahmen sowie eine Exit-Strategie für den Fall eines Anbieterwechsels. Ebenso sollte geprüft werden, ob sich verschiedene KI-Modelle flexibel einbinden lassen.
Sollte ich Open-Source-KI oder proprietäre Lösungen einsetzen?
Eine pauschale Antwort gibt es nicht. Open-Source-Lösungen bieten häufig mehr Kontrolle über Daten und Infrastruktur sowie eine geringere Abhängigkeit von einzelnen Herstellern. Proprietäre Lösungen punkten dagegen oft mit einfacher Einführung, höherem Bedienkomfort und umfangreichen Supportleistungen. Welche Variante besser geeignet ist, hängt von den Anforderungen der Organisation, den vorhandenen Ressourcen und den Datenschutzvorgaben ab.
Welche Kosten entstehen bei der Einführung von KI?
Neben den Lizenzkosten sollten Unternehmen die Gesamtkosten (Total Cost of Ownership) betrachten. Dazu gehören unter anderem Implementierung, Integration in bestehende Systeme, Schulungen, laufender Betrieb, Support sowie mögliche nutzungsabhängige Gebühren für KI-Modelle oder Token. Ein Pilotprojekt hilft dabei, Kosten und Nutzen realistisch zu bewerten.
Warum sollte jede KI-Einführung mit einem Pilotprojekt beginnen?
Ein Pilotprojekt ermöglicht es, den tatsächlichen Nutzen einer KI-Lösung unter realen Bedingungen zu prüfen, bevor sie unternehmensweit eingeführt wird. Gleichzeitig können Datenschutz, Benutzerfreundlichkeit, Integration und Wirtschaftlichkeit bewertet werden. Klare Erfolgs- und Abbruchkriterien helfen dabei, fundierte Entscheidungen für oder gegen eine spätere Einführung zu treffen.
Wie vermeide ich einen Vendor Lock-in bei KI-Lösungen?
Ein Vendor Lock-in entsteht, wenn der Wechsel zu einem anderen Anbieter nur mit erheblichem Aufwand oder gar nicht möglich ist. Um dies zu vermeiden, sollten Unternehmen auf offene Standards, standardisierte Schnittstellen (APIs), exportierbare Datenformate und eine vertraglich geregelte Datenrückgabe achten. Zudem empfiehlt es sich, Lösungen zu bevorzugen, die mehrere KI-Modelle oder Provider unterstützen.
Welche Rolle spielt KI-Kompetenz im Unternehmen??
Technische Lösungen allein reichen nicht aus. Mitarbeitende müssen verstehen, wie KI sinnvoll, sicher und verantwortungsvoll eingesetzt wird. Der EU AI Act verpflichtet Betreiber bestimmter KI-Systeme dazu, sicherzustellen, dass Beschäftigte über ausreichende KI-Kompetenz verfügen. Schulungen und interne Leitlinien sind deshalb ein wichtiger Bestandteil jeder KI-Einführung.
Links
eLeDia.academy Programm
KI Praxiseinsatz im eLearning: Tools, Prompting & Lernmaterialien erstellen
