KI-Anbieterverträge und Unternehmens-KI-Beschaffung: Rechtlicher Leitfaden für Unternehmen

Künstliche Intelligenz gelangt durch viele Türen in Unternehmen.

Manche KI-Werkzeuge werden von der Führung genehmigt; manche von IT-Abteilungen eingeführt; manche sind in bestehende Software eingebettet; manche werden von Marketingteams, Personalabteilungen, Entwicklern, Kundendienstteams, Beratern oder Mitarbeitenden genutzt, die generative KI-Werkzeuge ausprobieren. Das schafft ein neues rechtliches Problem: Ein Unternehmen kann KI nutzen, ohne den Vertrag jemals ordnungsgemäß geprüft zu haben.

Das Risiko ist nicht theoretisch. Ein KI-Anbieter kann personenbezogene Daten verarbeiten, Eingaben speichern, Eingaben zur Modellverbesserung nutzen, seine Haftung beschränken, Genauigkeit ausschließen, das Eigentum an Ausgaben einschränken, ausländische Unterauftragsverarbeiter einsetzen, sich Aussetzungsrechte vorbehalten, das Produkt ändern, Drittanbietermodelle integrieren oder verlangen, dass der Kunde eine weitreichende Haftung für das Nutzerverhalten übernimmt. Bei gewöhnlicher Software sind diese Themen wichtig; bei KI können sie zentral werden.

Deshalb sollte KI-Beschaffung als strategischer rechtlicher Prozess behandelt werden, nicht als routinemäßiger Abo-Kauf. Dieser Leitfaden erklärt, was Unternehmen prüfen sollten, bevor sie KI-Werkzeuge beschaffen, einführen oder skalieren.

1. KI-Beschaffung ist keine gewöhnliche Softwarebeschaffung

Herkömmliche Softwarebeschaffung konzentriert sich oft auf Funktionalität, Lizenzumfang, Preis, Service-Level, Support, Sicherheit und Kündigung. KI-Beschaffung erfordert all das — und mehr. Das Unternehmen muss verstehen, welche Daten das KI-System nutzt, ob es personenbezogene Daten verarbeitet, ob vertrauliche Informationen eingegeben werden dürfen, ob Eingaben und Ausgaben gespeichert werden, ob Kundendaten zum Modelltraining genutzt werden, ob Ausgaben kommerziell genutzt werden dürfen, ob der Anbieter Genauigkeit zusichert, ob das Werkzeug verletzende Inhalte erzeugen kann, ob menschliche Prüfung erforderlich ist, ob das System Einzelpersonen betrifft, ob regulatorische Pflichten gelten, wer haftet, wenn eine Ausgabe Schaden verursacht, und ob das Unternehmen das System gegenüber Regulierungsbehörden, Kunden oder Investoren erklären kann.

Der grundlegende Unterschied besteht darin, dass KI-Systeme Ausgaben erzeugen können, statt nur vordefinierte Funktionen auszuführen. Das erschwert die Verteilung der rechtlichen Verantwortung. Ein Unternehmen sollte einen KI-Vertrag nicht so unterzeichnen, als kaufe es gewöhnliche Bürosoftware.

2. Beginnen Sie mit dem Anwendungsfall

Bevor der Vertrag geprüft wird, muss das Unternehmen den Anwendungsfall definieren. Dasselbe KI-Werkzeug kann je nach Nutzung unterschiedliche Risiken bergen. Ein KI-Werkzeug zur Zusammenfassung interner Besprechungsnotizen unterscheidet sich von einem, das zur Vorauswahl von Bewerbungen, zur Bewertung von Kreditrisiken, zur Empfehlung medizinischer Behandlungen, zur Unterstützung rechtlicher Analysen, zur Prüfung von Versicherungsansprüchen, zur Erzeugung von Kundenberatung, zur Überwachung der Mitarbeiterleistung, zur Analyse von Kinderdaten, zur Verarbeitung sensibler Gesundheitsinformationen, zur Automatisierung von Compliance-Entscheidungen oder zur direkten Interaktion mit Verbrauchern eingesetzt wird.

Die rechtliche Prüfung sollte mit fünf Fragen beginnen: Was wird das KI-System tun? Welche Daten verarbeitet es? Wer verlässt sich auf die Ausgabe? Was kann schiefgehen? Und wer haftet, wenn es schiefgeht? Ohne klaren Anwendungsfall lässt sich der Vertrag nicht angemessen bewerten.

3. Bestimmen Sie die Rolle des KI-Anbieters

Vor der Unterzeichnung sollte das Unternehmen die Rolle des Anbieters bestimmen. Der Anbieter kann ein Modellanbieter, eine SaaS-Plattform, ein API-Anbieter, ein Systemintegrator, ein Wiederverkäufer, ein Cloud-Anbieter, ein Auftragsverarbeiter, ein eigenständig Verantwortlicher, ein Unterauftragnehmer, der Entwickler eines maßgeschneiderten Modells oder der Anbieter eines in sein eigenes Produkt eingebetteten Drittanbietermodells sein.

Das ist wichtig, weil die Verantwortung von der Kontrolle abhängt. Ein Wiederverkäufer kontrolliert das zugrunde liegende Modell möglicherweise nicht; eine Plattform kann auf einem anderen Basismodellanbieter beruhen; ein Systemintegrator kann ein Werkzeug konfigurieren, aber nicht besitzen; ein kundenseitiger KI-Anbieter kann mehrere Unterauftragsverarbeiter einsetzen. Der Vertrag sollte die Kette sichtbar machen. Wenn etwas schiefgeht, sollte das Unternehmen wissen, wer für das Modell, die Plattform, die Datenverarbeitung, die Integration, die Sicherheit und den Support verantwortlich ist.

4. KI-Anbieter-Due-Diligence

Unternehmen sollten vor der Unterzeichnung eine KI-Anbieter-Due-Diligence durchführen. Diese sollte für risikoarme Werkzeuge nicht unverhältnismäßig aufwendig sein; bei geschäftskritischen oder sensiblen Anwendungsfällen ist eine Anbieterprüfung jedoch unerlässlich. Das Unternehmen sollte fragen, wer das Basismodell bereitstellt, ob das Werkzeug auf einem eigenen oder einem Drittanbietermodell beruht, wo Daten gehostet werden, ob Kundendaten zum Training genutzt werden, ob die Trainingsnutzung deaktiviert werden kann, ob Eingaben und Ausgaben gespeichert werden, wie lange Protokolle aufbewahrt werden, welche Sicherheitszertifizierungen vorliegen, ob Unterauftragsverarbeiter aufgeführt sind und sich ohne Mitteilung ändern können, ob der Anbieter Löschanfragen unterstützt, ob Prüf- oder Auskunftsrechte bestehen, ob das System auf Verzerrung oder Genauigkeit getestet wurde, ob Dokumentation für riskante oder regulierte Nutzung vorliegt, ob der Anbieter über Vorfallreaktionsverfahren verfügt und was geschieht, wenn der Dienst ausgesetzt oder eingestellt wird.

Anbieter-Due-Diligence ist kein Misstrauen. Sie ist professionelle Beschaffung.

5. Datenschutzvertrag

Verarbeitet das KI-Werkzeug personenbezogene Daten, kann ein Datenschutzvertrag erforderlich sein. Der Vertrag sollte die Rollen der Parteien, den Verarbeitungszweck, die Kategorien personenbezogener Daten und betroffener Personen, die Weisungen des Kunden, Vertraulichkeit, Sicherheitsmaßnahmen, Unterauftragsverarbeiter, grenzüberschreitende Übermittlungen, Unterstützung bei Betroffenenanfragen, Verletzungsmeldung, Löschung oder Rückgabe von Daten, Prüfungen, Aufbewahrung, Trainingsnutzung sowie technische und organisatorische Maßnahmen behandeln.

KI schafft besondere Herausforderungen, weil Daten in Eingaben, hochgeladenen Dokumenten, Chatverläufen, Embeddings, Protokollen, Feinabstimmungsdatensätzen, Analysen und Ausgabeprotokollen erscheinen können. Der Vertrag sollte nicht nur „Datenschutzrecht gilt" sagen; er sollte erklären, wie das KI-System Daten tatsächlich verarbeitet.

6. Kundendaten und Modelltraining

Eine der wichtigsten Fragen ist, ob der Anbieter Kundendaten zum Trainieren oder Verbessern von Modellen nutzen darf. Dies sollte sorgfältig geprüft werden. Kundendaten können Eingaben, hochgeladene Dokumente, interne Aufzeichnungen, Kundeninformationen, Mitarbeiterdaten, Geschäftsdaten, vertrauliche Dateien, Code, Rechtsdokumente, Gesundheitsdaten, Finanzdaten, Rückmeldungen und Ausgaben umfassen.

Der Vertrag sollte festlegen, ob der Anbieter dieses Material für Modelltraining, Feinabstimmung, Diensteverbesserung, Analysen, Fehlerbehebung, Missbrauchsüberwachung, Sicherheit oder Produktentwicklung nutzen darf. Möchte das Unternehmen nicht, dass seine Daten zum Training genutzt werden, sollte der Vertrag dies ausdrücklich aussprechen. Eine Unternehmens-KI-Vereinbarung sollte idealerweise stärkere Kontrollen bieten als ein Verbraucher-KI-Werkzeug.

7. Vertraulichkeit und Berufsgeheimnis

KI-Werkzeuge können Vertraulichkeitsrisiken schaffen, besonders für Unternehmen, die mit Mandantenakten, Vorstandsmaterialien, Rechtsdokumenten, Jahresabschlüssen, personenbezogenen Daten, Personalakten, medizinischen Informationen, Quellcode, Geschäftsgeheimnissen, Übernahmezielen, Streitmaterialien, Versicherungsansprüchen, geistigem Eigentum oder strategischen Plänen arbeiten. Der Anbietervertrag sollte Vertraulichkeitspflichten enthalten, die der Sensibilität der Information entsprechen.

Unternehmen in professionellen Diensten, Rechtsdiensten, Finanzen, Versicherung, Gesundheitswesen, Technologie und Beratung sollten besonders vorsichtig sein. Das Unternehmen sollte zudem intern festlegen, was niemals in KI-Werkzeuge hochgeladen werden darf, sofern keine zugelassenen Schutzmaßnahmen bestehen. Vertragliche Vertraulichkeit und interne KI-Richtlinie sollten zusammenwirken.

8. Informationssicherheit

KI-Werkzeuge sollten auf Sicherheit geprüft werden: Verschlüsselung bei Übertragung und Speicherung, Zugriffskontrollen, Authentifizierung, Administratorkontrollen, Protokollierung, Datentrennung, Schwachstellenmanagement, Penetrationstests, Vorfallreaktion, Zugriff von Anbieterpersonal und Unterauftragnehmern, Sicherung und Wiederherstellung, Datenlöschung, Sicherheitszertifizierungen, Kundenbenachrichtigung, Prüfberichte, API-Sicherheit, Ratenbegrenzungen und Missbrauchsverhinderung.

Die Sicherheitsprüfung sollte dem Risiko angemessen sein. Ein öffentlicher KI-Schreibassistent für nicht vertrauliche Marketingentwürfe erfordert möglicherweise nicht dieselbe Prüfung wie ein Werkzeug für Krankenakten, Finanzdaten, Mitarbeiterüberwachung oder Rechtsdokumente — aber das Unternehmen sollte diese Unterscheidung bewusst treffen.

9. Grenzüberschreitende Übermittlungen und Cloud-Hosting

KI-Werkzeuge sind oft cloudbasiert, und Daten können in mehreren Rechtsordnungen gehostet, abgerufen oder verarbeitet werden. Das ist wichtig für Unternehmen, die in der Türkei, Nordzypern, dem Vereinigten Königreich, der Europäischen Union oder anderen grenzüberschreitenden Märkten tätig sind. Der Vertrag sollte den Hosting-Standort, Support-Zugriffsstandorte, Unterauftragsverarbeiter, den Mechanismus und die Garantien für grenzüberschreitende Übermittlungen, das Risiko behördlichen Zugriffs, Optionen zur Datenlokalisierung sowie Sicherungs- und Notfallwiederherstellungsstandorte festlegen.

Unternehmen sollten nicht annehmen, dass Daten lokal bleiben, nur weil der Dienst lokal verkauft wird. Während ein Nutzer aus der Türkei auf die Plattform zugreift, können Daten in Europa gehostet, über einen US-Modellanbieter verarbeitet und von einem globalen Team unterstützt werden. Diese Struktur kann akzeptabel sein, sollte aber verstanden werden.

10. Eigentum an Ausgaben und kommerzielle Nutzung

Unternehmen beschaffen KI-Werkzeuge teils, weil sie Ausgaben wünschen — Text, Code, Bilder, Designs, Berichte, Übersetzungen, Zusammenfassungen, Empfehlungen, Analysen, Geschäftspläne, Kundenantworten, Produktbeschreibungen, rechtliche oder Compliance-Entwürfe und Marketingmaterialien. Der Vertrag sollte regeln, ob das Unternehmen die Ausgaben kommerziell nutzen darf.

Die Kernfragen lauten: Wem gehört die Ausgabe, überträgt der Anbieter Rechte oder behält er sie, welche Einschränkungen gelten für die Nutzung, können ähnliche Ausgaben für andere Nutzer erzeugt werden, sind Ausgaben durch IP-Recht geschützt, ist der Kunde für die Prüfung der Ausgaben verantwortlich, gewährt der Anbieter eine IP-Freistellung und was geschieht, wenn eine Ausgabe Drittrechte verletzt. Ein Unternehmen sollte vorsichtig sein, KI-generierte Ausgaben für hochwertige Markenvermögen, Softwarecode, Werbekampagnen, regulierte Beratung oder Kundenlieferungen ohne Prüfung zu nutzen. KI-Ausgaben sollten als Entwurf behandelt werden, bis sie rechtlich und kommerziell validiert sind.

11. Risiko von Drittanbieter-IP

KI-Systeme können Inhalte erzeugen, die geschütztem Drittanbietermaterial ähneln oder es enthalten, was Streitigkeiten über Urheberrecht, Marken, Geschäftsgeheimnisse, Datenbankrechte, Softwarelizenzen, Persönlichkeitsrechte, vertrauliche Informationen oder Designrechte auslösen kann. Der Vertrag sollte regeln, ob der Anbieter Nichtverletzung garantiert, ob er eine Freistellung gewährt, ob die Freistellung Nutzereingaben ausschließt, ob es Anspruchsobergrenzen gibt, ob bestimmte Anwendungsfälle ausgeschlossen sind, ob der Kunde die Dokumentation befolgen muss, ob es eine Ausgabefilterung gibt und ob der Anbieter bei der Verteidigung von Ansprüchen unterstützt.

Viele KI-Anbieterverträge beschränken die Haftung für Ausgaben. Ein Unternehmen sollte nicht annehmen, dass der Anbieter es vollständig schützt, wenn ein Dritter eine Verletzung geltend macht.

12. Genauigkeit, Halluzination und Verlässlichkeit

KI-Systeme können selbstbewusste, aber falsche Ausgaben erzeugen. Dies wird oft als Halluzination bezeichnet, ist aber rechtlich mehr als eine technische Frage: Es kann zu falschen Entscheidungen, irreführenden Aussagen, mangelhaften Diensten, Berufsfahrlässigkeit, Verbraucherschäden oder Vertragsverletzung führen. Der Vertrag sollte regeln, ob der Anbieter Genauigkeit zusichert, ob Ausgaben „wie besehen" bereitgestellt werden, ob menschliche Prüfung erforderlich ist, ob das Werkzeug für den beabsichtigten Gebrauch geeignet ist, ob der Anbieter regulierte oder berufliche Nutzung ausschließt, ob das System nur unterstützend ist, ob Ausgabeprotokolle geführt werden und ob Fehler gemeldet werden müssen.

Das Unternehmen sollte festlegen, wann KI-Ausgaben vertrauenswürdig sind und wann menschliche Prüfung zwingend ist. Bei risikoreichen Entscheidungen sollte KI nicht zu einem unsichtbaren Entscheidungsträger werden.

13. Menschliche Aufsicht

Menschliche Aufsicht sollte sowohl in den Vertrag als auch in den internen Prozess eingebettet sein. Relevante Fragen: Wer prüft KI-Ausgaben? Ist die Prüfung verpflichtend oder optional? Welche Qualifikation sollte der Prüfer haben? Kann der Prüfer das System überstimmen? Erhält der Prüfer ausreichende Informationen? Werden Ausgaben als KI-generiert gekennzeichnet? Gibt es einen Eskalationsweg? Werden Entscheidungen dokumentiert? Und können betroffene Personen Ergebnisse anfechten?

Menschliche Aufsicht ist bedeutungslos, wenn der Mensch das KI-System nur abnickt. Bei regulierten oder sensiblen Anwendungsfällen sollte die Aufsicht strukturiert, protokolliert und prüfbar sein.

14. Haftungsklauseln

KI-Verträge enthalten oft starke Haftungsbeschränkungen des Anbieters. Ein Anbieter kann die Haftung für fehlerhafte Ausgaben, Datenverlust, mittelbare Schäden, entgangenen Gewinn, Geschäftsunterbrechung, IP-Ansprüche, regulatorische Bußgelder, Nutzermissbrauch, Versagen von Drittanbietermodellen, Sicherheitsvorfälle, Beta-Funktionen, berufliche Nutzung und auf Ausgaben gestützte Entscheidungen ausschließen oder beschränken. Das Unternehmen sollte prüfen, ob die Haftungsobergrenze angemessen ist — eine niedrige Abogebühr kann mit einer Obergrenze einhergehen, die im Verhältnis zum Risiko kommerziell bedeutungslos ist.

Bei geschäftskritischer KI sollte das Unternehmen erwägen, höhere Obergrenzen, unbeschränkte Haftung für Vertraulichkeits- und Datenschutzverletzungen, IP-Freistellung, Haftung für Sicherheitsverletzungen, regulatorische Zusammenarbeit, Servicegutschriften, Kündigungsrechte und Versicherungsanforderungen zu verhandeln. Die Risikokontrolle sollte maßgeblich sein: Kontrolliert der Anbieter Modell, Sicherheit und Datenverarbeitung, sollte er angemessene Haftung übernehmen.

15. Freistellungen

Freistellungen sind in KI-Verträgen besonders wichtig. Das Unternehmen sollte prüfen, ob es eine Freistellung für IP-Verletzung durch Dritte, anbieterbedingte Datenschutzverletzung, Vertraulichkeitsbruch, Sicherheitsvorfall, anbieterbedingten regulatorischen Verstoß, Verletzung von Anbieterzusicherungen, unbefugte Nutzung von Kundendaten zum Training, Ansprüche aus Anbietermaterialien und Ansprüche aus Handlungen von Unterauftragnehmern benötigt. Der Anbieter kann seinerseits eine Freistellung des Kunden für rechtswidrige Eingabedaten, Plattformmissbrauch, Verstoß gegen die Richtlinie zur zulässigen Nutzung, Verletzung von Drittrechten, Nutzung in verbotenen Branchen und unterlassene Prüfung von Ausgaben verlangen.

Freistellungen sollten ausgewogen und an die Kontrolle gebunden sein. Ein Kunde sollte keine Haftung allein für Risiken übernehmen, die durch das System des Anbieters entstehen.

16. Richtlinien zur zulässigen Nutzung

KI-Anbieter fügen oft Richtlinien zur zulässigen Nutzung bei, die die Verwendung für rechtswidrige Tätigkeit, Diskriminierung, biometrische Identifizierung, Überwachung, Waffen, Täuschung, regulierte Beratung, risikoreiche Entscheidungen, medizinische oder rechtliche Beratung, Kreditbewertung, Beschäftigungsentscheidungen, politische Beeinflussung, kinderbezogene Verarbeitung, Scraping, automatisierten Spam oder schädliche Inhalte verbieten können. Das Unternehmen sollte diese sorgfältig prüfen.

Ein Unternehmen kann ein KI-Werkzeug unwissentlich auf eine Weise nutzen, die gegen die Richtlinie zur zulässigen Nutzung des Anbieters verstößt, was zu Aussetzung, Kündigung, Zugriffsverlust oder Supportverweigerung führen kann. Liegt die beabsichtigte Nutzung des Unternehmens nahe an einem eingeschränkten Bereich, sollte vor der Einführung eine schriftliche Klarstellung eingeholt werden.

17. Service-Level und Geschäftskontinuität

KI-Werkzeuge können operativ bedeutsam werden. Integriert ein Unternehmen KI in Kundendienst, Dokumentenprüfung, Programmierung, Logistik, Compliance oder Analysen, kann ein Ausfall den Betrieb beeinträchtigen. Der Vertrag sollte Verfügbarkeitszusagen, Wartungsfenster, Support-Reaktionszeiten, Schweregrade von Vorfällen, Sicherungsverfahren, Notfallwiederherstellung, API-Verfügbarkeit, Ratenbegrenzungen, Modellverfügbarkeit, Modelländerungen, Einstellung von Funktionen, Servicegutschriften und Kündigung bei wiederholtem Versagen behandeln.

Das Unternehmen sollte zudem fragen, ob es weiterarbeiten kann, wenn der KI-Dienst nicht verfügbar wird. KI-Beschaffung sollte die Geschäftskontinuitätsplanung einbeziehen.

18. Modelländerungen und Produktänderungen

KI-Systeme ändern sich. Der Anbieter kann Modelle aktualisieren, Funktionen entfernen, Sicherheitsfilter ändern, das Ausgabeverhalten ändern, die Preise ändern, API-Grenzen ändern, neue Unterauftragsverarbeiter hinzufügen oder bestimmte Funktionen einstellen — und diese Änderungen können den Betrieb des Unternehmens beeinflussen. Der Vertrag sollte die Mitteilung wesentlicher Änderungen, die Möglichkeit, Änderungen abzulehnen, Versionskontrolle, Aktualisierung der Dokumentation, Tests vor großen Änderungen, Abwärtskompatibilität, Kündigungsrechte des Kunden, Datenexport und Migrationsunterstützung behandeln.

Bei risikoarmer Nutzung können Modelländerungen akzeptabel sein. Bei regulierter, eingebetteter oder kundenseitiger KI können unkontrollierte Änderungen rechtliche und operative Risiken schaffen.

19. Prüfrechte und Dokumentation

Unternehmen benötigen möglicherweise Dokumentation, um Kunden, Investoren, Regulierungsbehörden oder die interne Governance zufriedenzustellen. Der Vertrag sollte regeln, ob der Anbieter Sicherheitsdokumentation, Informationen zur Datenverarbeitung, Modelldokumentation, Risikobewertungen, Prüfberichte, Compliance-Zertifizierungen, Listen von Unterauftragsverarbeitern, Vorfallhistorie, Informationen zu Verzerrungstests, gegebenenfalls Dokumentation zur EU-KI-Verordnung, technische Spezifikationen und Änderungsprotokolle bereitstellt.

Vollständige Prüfrechte sind bei großen KI-Anbietern möglicherweise nicht verfügbar, aber das Unternehmen sollte dennoch ausreichende Informationen zur Risikobewertung anstreben. Ein Kunde, der seine KI-Lieferkette nicht erklären kann, kann bei Due-Diligence, regulatorischer Prüfung oder Rechtsstreit in Schwierigkeiten geraten.

20. EU-KI-Verordnungsrisiko in Anbieterverträgen

Die EU-KI-Verordnung schafft Pflichten für verschiedene Akteure je nach ihrer Rolle und dem Risikoniveau des KI-Systems. Selbst ein Unternehmen außerhalb der EU muss möglicherweise das Risiko der KI-Verordnung bewerten, wenn es KI-Systeme, KI-gestützte Dienste oder Ausgaben auf EU-Märkten anbietet. Deshalb sollten KI-Anbieterverträge bewerten, ob das KI-System hochriskant sein könnte, ob das Unternehmen Anbieter oder Betreiber ist, ob der Anbieter die erforderliche Dokumentation bereitstellt, ob Werkzeuge zur menschlichen Aufsicht verfügbar sind, ob Protokolle geführt werden, ob Nutzungsanweisungen bereitgestellt werden, ob Informationen zum Risikomanagement verfügbar sind, ob der Anbieter bei Compliance-Anfragen kooperiert und ob das Werkzeug für die beabsichtigte EU-bezogene Nutzung geeignet ist.

Selbst wo die KI-Verordnung nicht direkt gilt, kann sie zu einem kommerziellen Standard in der grenzüberschreitenden Beschaffung werden. Internationale Kunden können im Rahmen der Anbieter-Due-Diligence KI-Governance-Dokumentation erwarten.

21. Branchenspezifische Beschaffung

KI-Beschaffung sollte in bestimmten Branchen strenger sein — Gesundheitswesen, Finanzen, Versicherung, Beschäftigung, Bildung, Rechtsdienste, Immobilien, Verkehr, Cybersicherheit, öffentlicher Sektor, kritische Infrastruktur, Kinderdienste und verbraucherseitige Plattformen. In diesen Branchen sollte der Vertrag branchenspezifische Pflichten behandeln.

Beispielsweise kann Gesundheits-KI klinische, Datenschutz- und Sicherheitsprüfungen erfordern; Finanz-KI kann Erklärbarkeit, Fairness und Prüfpfade erfordern; Versicherungs-KI kann Risikobewertung, Ansprüche und Diskriminierungsrisiko beeinflussen; Beschäftigungs-KI kann Transparenz und Verzerrungsbewertung erfordern; Rechts-KI kann Vertraulichkeit und berufliche Prüfung erfordern; und Bildungs-KI kann Minderjährige und sensible Schülerdaten betreffen. Allgemeine KI-Bedingungen reichen für regulierte Anwendungsfälle selten aus.

22. Interne KI-Beschaffungsrichtlinie

Unternehmen sollten eine interne KI-Beschaffungsrichtlinie einführen, die festlegt, wer KI-Werkzeuge genehmigen darf, welche Werkzeuge verboten sind, wann eine rechtliche, datenschutzrechtliche, sicherheitstechnische und Management-Prüfung erforderlich ist, wann ein Anbieterfragebogen erforderlich ist, wann menschliche Aufsicht zwingend ist, welche Daten nicht hochgeladen werden dürfen, wie Mitarbeitende KI-Vorfälle melden, wie Verträge gespeichert werden und wer für das KI-Inventar zuständig ist.

Ohne interne Richtlinie wird die KI-Beschaffung fragmentiert — verschiedene Abteilungen können unterschiedliche Werkzeuge erwerben, inkonsistente Bedingungen akzeptieren und verstecktes Risiko schaffen. Ein zentralisierter KI-Beschaffungsprozess muss Innovation nicht stoppen; er schützt das Unternehmen und erlaubt zugleich verantwortungsvolle Einführung.

23. Schatten-KI und Mitarbeiternutzung

Mitarbeitende können KI-Werkzeuge nutzen, ohne dass die Führung davon weiß — eines der häufigsten Risiken. Beispiele sind das Hochladen von Mandantendokumenten in öffentliche KI-Werkzeuge, das Zusammenfassen von Verträgen mit KI, das Erzeugen von Code mit unbekanntem Lizenzrisiko, das Verfassen von Kundenantworten mit KI, das Übersetzen vertraulicher Dokumente, das Analysieren von Mitarbeiterdaten, das Erstellen von Marketinginhalten mit unklarem IP-Status und die Nutzung persönlicher Konten für Unternehmensarbeit.

Das Unternehmen sollte Schatten-KI direkt angehen. Eine realistische Richtlinie sollte zugelassene Werkzeuge benennen, bestimmte Dateneingaben verbieten, Vertraulichkeitsregeln erläutern, menschliche Prüfung verlangen, Schulungen anbieten, einen Meldekanal schaffen, unrealistische pauschale Verbote vermeiden und den Mitarbeitenden sichere Alternativen geben. Mitarbeitende nutzen KI meist, weil sie ihnen hilft, schneller zu arbeiten — die rechtliche Lösung ist kontrollierte Einführung, nicht Verweigerung.

24. Ausstiegsstrategie und Datenrückgabe

Unternehmen sollten das Ende der KI-Anbieterbeziehung vor der Unterzeichnung bedenken. Der Vertrag sollte Kündigungsrechte, Datenexport, Ausgabenexport, Löschung von Kundendaten, Löschzertifikate, Migrationsunterstützung, Fortbestand der Vertraulichkeit, fortgesetzte Nutzung von Ausgaben, einen Abwicklungszeitraum, soweit möglich die Entfernung aus Trainingsdatensätzen, Kontoschließung, Aufbewahrung von Protokollen durch den Anbieter und Löschung durch Unterauftragnehmer behandeln.

Der Ausstieg ist besonders wichtig, wenn das KI-System in den Betrieb eingebettet ist. Ein Unternehmen sollte nicht an einen Anbieter gebunden sein, ohne die Fähigkeit, Daten zurückzuerlangen, Beweise zu sichern und sicher zu migrieren.

25. Warnzeichen in KI-Verträgen

Unternehmen sollten vorsichtig sein, wenn die Anbieterbedingungen vorsehen, dass: Kundendaten ohne klares Opt-out zum Training genutzt werden dürfen; der Anbieter weitreichende Rechte zur Nutzung von Eingaben und Ausgaben hat; die Haftung fast vollständig ausgeschlossen ist; keine IP-Freistellung gewährt wird; Vertraulichkeitspflichten schwach sind; die Datenlöschung unklar ist; Unterauftragsverarbeiter sich ohne Mitteilung ändern können; grenzüberschreitende Übermittlungen nicht offengelegt sind; Sicherheitszusagen vage sind; der Anbieter jede Haftung für Genauigkeit ausschließt; Ausgaben nicht kommerziell nutzbar sind; der Dienst weitreichend ausgesetzt werden kann; die Richtlinie zur zulässigen Nutzung zu weit oder vage ist; kein Support oder keine Vorfallreaktion bereitgestellt wird; einseitige Änderungen ohne sinnvolle Mitteilung erlaubt sind; anwendbares Recht und Gerichtsstand unangemessen sind; oder Unternehmensnutzung auf Verbraucherbedingungen beruht.

Ein Warnzeichen bedeutet nicht immer, dass der Vertrag nicht unterzeichnet werden kann. Es bedeutet, dass das Risiko verstanden, verhandelt oder intern gesteuert werden muss.

26. Eine praktische KI-Beschaffungs-Checkliste

Vor der Beschaffung eines KI-Werkzeugs sollten Unternehmen fragen: Was ist der beabsichtigte Anwendungsfall und ist das Werkzeug intern oder kundenseitig? Verarbeitet es personenbezogene Daten oder vertrauliche Informationen? Können Kundendaten zum Modelltraining genutzt werden? Wo werden Daten gehostet, und liegen Unterauftragsverarbeiter und grenzüberschreitende Übermittlungen vor und sind sie rechtmäßig? Wem gehören Eingaben und Ausgaben, und sind Ausgaben kommerziell nutzbar? Besteht Schutz vor IP-Verletzung? Sind die Genauigkeitsgrenzen klar, und ist menschliche Prüfung erforderlich? Sind die Haftungsobergrenzen akzeptabel, und sind die Freistellungen ausgewogen? Ist die Sicherheitsdokumentation ausreichend, und bestehen Prüf- oder Auskunftsrechte? Wird das Werkzeug in einer regulierten Branche genutzt, und kann ein EU-KI-Verordnungsrisiko entstehen? Gibt es eine interne KI-Richtlinie, sind Mitarbeitende geschult, und wird Schatten-KI kontrolliert? Was geschieht, wenn der Dienst ausgesetzt wird, und können Daten beim Ausstieg zurückgegeben oder gelöscht werden? Und sind die rechtliche, datenschutzrechtliche und sicherheitstechnische Prüfung abgeschlossen?

Die Antworten sollten dann die Beschaffungsentscheidung prägen — unterzeichnen, verhandeln, den Anwendungsfall einschränken oder ablehnen.

Häufig gestellte Fragen

Warum unterscheiden sich KI-Anbieterverträge von gewöhnlichen Softwareverträgen?

KI-Werkzeuge können sensible Daten verarbeiten, unvorhersehbare Ausgaben erzeugen, Kundendaten zur Modellverbesserung nutzen, IP-Risiken schaffen, Einzelpersonen betreffen und auf komplexen Unterauftragnehmerketten beruhen. Diese Themen erfordern eine genauere rechtliche Prüfung als gewöhnliche Softwarebeschaffung.

Darf ein KI-Anbieter unsere Unternehmensdaten zum Training seines Modells nutzen?

Das hängt von den Anbieterbedingungen ab. Unternehmen sollten prüfen, ob Eingaben, hochgeladene Dokumente, Ausgaben oder Rückmeldungen für Training oder Diensteverbesserung genutzt werden dürfen und ob Opt-out- oder Unternehmensschutzmaßnahmen verfügbar sind.

Wem gehören KI-generierte Ausgaben?

Das Eigentum hängt von den Bedingungen des KI-Werkzeugs, dem anwendbaren Recht und der Art der Ausgabe ab. Unternehmen sollten nicht annehmen, dass sie Ausgaben besitzen oder kommerziell nutzen dürfen, ohne den Vertrag zu prüfen.

Was sind die wichtigsten rechtlichen Risiken der KI-Beschaffung?

Zu den Hauptrisiken zählen Datenschutz, Vertraulichkeit, IP-Verletzung, fehlerhafte Ausgaben, Haftungsbeschränkungen des Anbieters, grenzüberschreitende Übermittlungen, Sicherheit, Schatten-KI, Risiken regulierter Branchen, Relevanz der EU-KI-Verordnung und unklare Ausstiegsrechte.

Sollten Unternehmen eine interne KI-Richtlinie haben?

Ja. Eine interne KI-Richtlinie hilft, die Nutzung durch Mitarbeitende, zugelassene Werkzeuge, verbotene Eingaben, menschliche Prüfung, Vertraulichkeit, Datenschutz, Beschaffungsfreigabe und Vorfallmeldung zu steuern.

Ist die Konformität mit der EU-KI-Verordnung auch außerhalb der EU relevant?

Sie kann relevant sein, wenn KI-Systeme, Ausgaben oder KI-gestützte Dienste auf dem EU-Markt angeboten oder von EU-Kunden genutzt werden. Sie kann auch kommerzielle Erwartungen in der internationalen Beschaffung beeinflussen.

Sollten KI-Verträge Klauseln zur menschlichen Aufsicht enthalten?

Bei sensiblen oder folgenreichen Anwendungsfällen ja. Vertrag und interner Prozess sollten klar festlegen, wann menschliche Prüfung erforderlich ist und wer für die Überprüfung der Ausgaben verantwortlich ist.

Was sollten Unternehmen tun, bevor sie einen KI-Anbietervertrag unterzeichnen?

Den Anwendungsfall definieren, Anbieter-Due-Diligence durchführen und Datenverarbeitung, Vertraulichkeit, IP, Haftung, Sicherheit, grenzüberschreitende Übermittlungen, zulässige Nutzung, Prüfrechte, regulatorisches Risiko und Ausstiegsregelungen prüfen.

Fazit

KI-Beschaffung wird zu einer rechtlichen Frage auf Vorstandsebene. Ein Unternehmen, das KI einführt, ohne die Anbieterbedingungen zu prüfen, kann Datenschutzrisiken, Vertraulichkeitsbrüchen, IP-Ansprüchen, fehlerhaften Ausgaben, Mitarbeitermissbrauch, regulatorischer Prüfung, Kundenbeschwerden und operativer Abhängigkeit ausgesetzt sein.

Der stärkste Ansatz besteht nicht darin, KI zu vermeiden — sondern KI mit Disziplin zu beschaffen. Unternehmen sollten das System verstehen, den Vertrag prüfen, die Daten kontrollieren, die menschliche Aufsicht festlegen, die Haftung verteilen, Beweise sichern, Mitarbeitende schulen und den Ausstieg planen. KI kann nur Wert schaffen, wenn die sie tragende rechtliche Struktur stark genug ist, das Risiko zu tragen.

Wie Terziolu & Partners helfen kann

Terziolu & Partners berät Unternehmen, Investoren, Gründer und Privatmandanten in rechtlichen Angelegenheiten in der Türkei, Nordzypern und grenzüberschreitend. Unsere Arbeit kann die Prüfung von KI-Anbieterverträgen; die Beratung zur Unternehmens-KI-Beschaffung; die Erstellung von Checklisten zur KI-Anbieter-Due-Diligence; die Ausarbeitung von KI-SaaS- und Kundenbedingungen; die Erstellung interner KI-Beschaffungsrichtlinien; die Beratung zu KI-bezogenen Datenschutzfragen; die Prüfung von Vertraulichkeits- und Trainingsdatenrisiken; die Beratung zu KI-Ausgabeneigentum und IP-Risiko; die Bewertung des vertraglichen Risikos im Zusammenhang mit der EU-KI-Verordnung; die Unterstützung bei der KI-bezogenen rechtlichen Due-Diligence bei Investitionen und Übernahmen; und bei Bedarf die Koordination mit technischen, datenschutzrechtlichen und ausländischen Beratern umfassen.

Sprechen Sie mit unserem Team über einen KI-Anbietervertrag, eine Unternehmens-KI-Beschaffung oder eine KI-Governance-Frage.

Dieser Artikel dient ausschließlich allgemeinen Informationszwecken und stellt keine Rechtsberatung dar. Risiken der KI-Beschaffung und von Anbieterverträgen können je nach KI-System, Anbieterbedingungen, verarbeiteten Daten, Branche, Rechtsordnung, vertraglicher Struktur, regulatorischem Risiko, Kundenstamm, beabsichtigter Nutzung und Zeitpunkt der Beratung variieren. Es sollten keine Maßnahmen ergriffen oder unterlassen werden, die sich auf diese Veröffentlichung stützen. Vor der Beschaffung, Einführung, Integration oder Nutzung eines KI-Systems sollte fallspezifische rechtliche, technische, datenschutzrechtliche, cybersicherheitsbezogene und kommerzielle Beratung eingeholt werden. Die Übermittlung einer Anfrage an Terziolu & Partners begründet kein Mandatsverhältnis, solange ein Mandat nicht förmlich und schriftlich angenommen wurde.