Die Eingabe von internen Daten in Große Sprachmodelle (Large Language Models, LLMs) stellt eine zentrale Compliance-Herausforderung im Unternehmensalltag dar. Zur rechtssicheren Beurteilung muss zwischen datenschutzrechtlichen Vorgaben (DSGVO) und dem Schutz von Geschäftsgeheimnissen (GeschGehG) unterschieden werden.

1. Datenschutzrechtliche Vorgaben (DSGVO)
Personenbezogene Daten umfassen alle Informationen, die eine Person identifizierbar machen (z. B. Namen, Kundennummern, IP-Adressen oder Lebensläufe). Die Eingabe solcher Daten in einen KI-Prompt stellt eine Verarbeitung im Sinne der DSGVO dar. Dabei sind folgende rechtliche Kriterien maßgeblich:

Datenminimierung & Pseudonymisierung: Gemäß Art. 5 Abs. 1 lit. c DSGVO dürfen nur Daten verarbeitet werden, die für den jeweiligen Zweck absolut notwendig sind. Als primäre technische und organisatorische Maßnahme (TOMs nach Art. 32 DSGVO) gilt es, den Personenbezug vor der Eingabe zu entfernen. Dies erfolgt durch Pseudonymisierung gem. Art. 4 Nr. 5 DSGVO (z. B. „Kunde A“ statt Klarnamen) oder vollständige Anonymisierung. Ohne echten Personendatenbezug entfällt das DSGVO-Risiko.

Mitarbeiterdaten: Für die Eingabe von Beschäftigtendaten (z. B. zur Leistungsbewertung oder Schichtplanung) ist eine gesonderte Erlaubnisnorm erforderlich, in der Regel § 26 BDSG (Datenverarbeitung für Zwecke des Beschäftigungsverhältnisses). Hierbei sind zudem die Mitbestimmungsrechte des Betriebsrats zu beachten.

Rechtliche Rahmenbedingungen für das Tooling: Lässt sich die Eingabe von Personendaten nicht vermeiden, ist die Nutzung öffentlicher Versionen (Public-Versionen) der Tools datenschutzrechtlich nicht zulässig. Ein rechtmäßiger Einsatz erfordert geschlossene Enterprise-Umgebungen oder API-Schnittstellen, sofern drei Voraussetzungen erfüllt sind:

Es liegt eine gültige Rechtsgrundlage vor (z. B. berechtigtes Interesse nach Art. 6 Abs. 1 lit. f DSGVO).

Ein Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO ist mit dem Provider abgeschlossen.

Der Anbieter garantiert vertraglich ein Opt-out vom Modell-Training (Zero-Data-Retention-Policy), sodass die Eingaben nicht für das Fine-Tuning der Basismodelle (Foundation Models) verwendet werden.

2. Schutz von Geschäftsgeheimnissen (GeschGehG)
Die Nutzung eigener RAG-Systeme (Retrieval-Augmented Generation) oder das Hochladen von internem Programmcode, Businessplänen und Finanzdaten in öffentliche KI-Systeme birgt erhebliche wirtschaftliche Risiken.

Ein Geschäftsgeheimnis ist rechtlich nur geschützt, wenn es durch „angemessene Geheimhaltungsmaßnahmen“ (§ 2 Abs. 1 Nr. 1 lit. b GeschGehG) gesichert ist. Werden Standard-KI-Modelle mit diesen Daten trainiert, entfallen diese Kontrollmaßnahmen. Dies kann zu einem sogenannten „Data Leakage“ führen, bei dem die KI die internen Informationen zukünftig Dritten oder Wettbewerbern als Output generiert. Die rechtliche Folge ist der unwiderrufliche Verlust des Geheimnisschutzes.

3. Empfehlungen zur AI Compliance
Da ein generelles KI-Verbot interne Innovationsprozesse ausbremsen kann, wird stattdessen die Etablierung einer rechtssicheren KI-Richtlinie (AI Acceptable Use Policy) empfohlen. Eine solche Richtlinie definiert klar, welche Tools im Unternehmen zugelassen sind. Gleichzeitig erfüllt das Unternehmen damit die gesetzliche Pflicht zur Schaffung von KI-Kompetenz (AI Literacy) gemäß Art. 4 des EU AI Acts, sichert Workflows ab und minimiert das Risiko von Bußgeldern.

Die Nutzung fremder, urheberrechtlich geschützter Inhalte als Ausgangsmaterial (Input) für KI-Anwendungen unterliegt komplexen rechtlichen Rahmenbedingungen. Bei der Verwendung von Blogbeiträgen, Zeitungsartikeln oder Fotografien ohne explizite Lizenz muss rechtlich zwischen der Eingabephase (Upload) und der anschließenden Nutzung des Ergebnisses (Output) unterschieden werden.

1. Die Input-Phase: Das Risiko der unzulässigen Vervielfältigung (§ 16 UrhG)
Bereits der technische Vorgang des Hochladens kann einen urheberrechtlich relevanten Tatbestand erfüllen. Durch das Kopieren eines fremden Textes in das Eingabefeld (Prompt) oder den Upload eines Fotos wird eine Vervielfältigung im Sinne des § 16 UrhG auf den Servern des KI-Anbieters erstellt.

Besonders kritisch ist die Nutzung von Tool-Versionen, bei denen die Eingaben standardmäßig für das Training der Basismodelle verwendet werden. In diesem Fall erfolgt ein Eingriff in die Verwertungsrechte der Urheber. Viele Anbieter von KI-Modellen wälzen die Haftung für solche Urheberrechtsverletzungen in ihren allgemeinen Geschäftsbedingungen (AGB) vollständig auf den Nutzer ab.

2. Die Output-Phase: Abgrenzung zwischen Bearbeitung und freier Nutzung
Für die Veröffentlichung KI-generierter Ergebnisse ist der Grad der Veränderung gegenüber dem Original maßgeblich:

Umschreiben von Texten: Das Urheberrecht schützt die konkrete individuelle Ausgestaltung eines Textes, jedoch keine bloßen Fakten oder Ideen. Eine Urheberrechtsverletzung liegt dann nicht vor, wenn die prägenden Züge des Originaltextes im KI-Output vollständig verblassen und ein neues, eigenständiges Werk entsteht. Bleibt die „persönliche geistige Schöpfung“ des Originals (z. B. durch die Struktur, spezifische Wortwahl oder den Argumentationsaufbau) im Ergebnis erkennbar, handelt es sich um eine Bearbeitung oder Umgestaltung gemäß § 23 UrhG. Eine Veröffentlichung ist in diesem Fall ohne Zustimmung des ursprünglichen Autors unzulässig.

Bildreferenzen (Image-to-Image): Wird ein geschütztes Foto als Referenz genutzt, um ein ähnliches Bild generieren zu lassen, gilt derselbe Maßstab. Sofern das generierte Bild individuelle Merkmale des Originals (z. B. Bildkomposition, spezifische Lichtsetzung oder Motivwahl) deutlich erkennen lässt, werden bei einer kommerziellen Nutzung die Rechte des ursprünglichen Fotografen berührt.

3. Handlungsempfehlungen zur Vermeidung von Haftungsrisiken
Zur Minimierung von Abmahnrisiken sollten im Unternehmen klare Richtlinien für Marketing-Teams und externe Agenturen etabliert werden. Während eigene Ideen, Stichpunkte oder reine Fakten jederzeit als Input dienen können, stellt das direkte Kopieren („Copy-Paste“) fremder Werke zum Zweck des Umschreibens ein erhebliches Haftungsrisiko dar.

In Verträgen mit externen Dienstleistern sollte zudem sichergestellt werden, dass diese vertraglich garantieren, bei der KI-gestützten Erstellung von Inhalten keine Rechte Dritter zu verletzen. Die Einhaltung dieser Sorgfaltspflichten ist ein wesentlicher Bestandteil einer rechtssicheren AI Governance.

Nach aktueller Rechtslage werden an rein KI-generierten Inhalten in der Regel keine eigenen Urheberrechte erworben. Die gewerbliche Nutzung solcher Erzeugnisse ist mit spezifischen rechtlichen Herausforderungen verbunden, wobei zwischen fehlenden eigenen Schutzrechten und der möglichen Verletzung fremder Rechte unterschieden werden muss.

1. Fehlende eigene Schutzfähigkeit und die Rolle des Prompts
Das deutsche Urheberrecht schützt gemäß § 2 Abs. 2 UrhG ausschließlich „persönliche geistige Schöpfungen“. Dies setzt zwingend einen menschlichen Schöpfer voraus. Da eine Künstliche Intelligenz keine Rechtspersönlichkeit besitzt, genießen vollständig von einer KI generierte Inhalte grundsätzlich keinen Urheberrechtsschutz.

Auch die Eingabe von detaillierten Befehlen (Prompts) begründet im Regelfall kein Urheberrecht, da die finale gestalterische Ausgestaltung bei der Maschine liegt. Ein Urheberrechtsschutz ist jedoch in Ausnahmefällen denkbar: nämlich dann, wenn der Eingabeprozess derart steuernd ausgestaltet ist, dass die menschlich-kreative Einflussnahme die Leistung der Software eindeutig überwiegt.

Diese Grenze wurde durch die erste gerichtliche Entscheidung in Deutschland zu dieser Frage konkretisiert. Das AG München (Urteil vom 13.02.2026, Az.: 142 C 9786/25) verneinte in dem behandelten Fall zwar den Urheberrechtsschutz trotz eines umfangreichen Prompts, schloss eine Schutzfähigkeit bei ausreichend dominanter menschlicher Steuerung jedoch ausdrücklich nicht aus. (Eine detaillierte rechtliche Einordnung dieses Urteils findet sich hier: Urheberrecht bei KI-Logos: Amtsgericht München verneint Schutz trotz detaillierter Prompts

2. Risiken der Verletzung fremder Rechte
Auch ohne eigenen Schutz für das Generat birgt die gewerbliche Nutzung Haftungsrisiken, da KI-Modelle auf Basis urheberrechtlich geschützter Trainingsdaten arbeiten:

Wahrscheinlichkeitsbasierte Synthese (Regelfall): Üblicherweise erstellt die KI ein neu synthetisiertes Konstrukt, das in dieser exakten Form vorher nicht existierte. Eine direkte Urheberrechtsverletzung ist hier zumeist ausgeschlossen.

Overfitting und Memorization (Ausnahme): Unter bestimmten Umständen – insbesondere wenn ein konkretes Werk in den Trainingsdaten extrem häufig vorkam (wie z. B. sehr bekannte Fotografien, Standard-Code-Snippets oder Markenlogos) – kann es passieren, dass das Modell dieses Muster gewissermaßen „auswendig lernt“. In diesen Fällen reproduziert die KI Teile ihrer Trainingsdaten nahezu identisch (sogenanntes Overfitting). Die unwissentliche gewerbliche Nutzung solcher Reproduktionen kann eine Urheberrechtsverletzung darstellen. Da der Unterlassungsanspruch im deutschen Recht verschuldensunabhängig ist, haftet der Nutzer in solchen Fällen auch ohne Kenntnis der Vorlage.

3. Empfehlungen zur rechtssicheren Nutzung
Um eigene Urheberrechte zu begründen, muss der menschliche Gestaltungsanteil überwiegen. Es wird empfohlen, KI-Erzeugnisse primär als Rohmaterial zu verwenden. Wenn ein menschlicher Bearbeiter den Output tiefgreifend verändert und mit eigener geistiger Leistung durchdringt, entsteht ein neues, schutzfähiges Werk. Zudem sollten Unternehmen vertragliche Absicherungen gegenüber externen Dienstleistern treffen, um die Haftungsfrage bei der KI-Nutzung vorab zu klären.

Die Frage, ob die Eingabebefehle (Prompts) für KI-Tools urheberrechtlichen Schutz genießen, ist differenziert zu betrachten. In der juristischen Praxis zeigt sich, dass der Schutz über das Urheberrecht oft nicht ausreicht, um wertvolles Prompt-Engineering-Know-how abzusichern.

1. Hürden für den Urheberrechtsschutz von Prompts
Ein Prompt genießt nur dann Urheberrechtsschutz, wenn er eine hinreichende „Schöpfungshöhe“ erreicht (§ 2 Abs. 2 UrhG). Kurze oder rein funktionale Befehle erfüllen diese Voraussetzung in der Regel nicht.

Standard-Prompts: Einfache Anweisungen oder die bloße Aneinanderreihung von Fakten gelten als nicht schutzfähig, da ihnen die notwendige individuelle geistige Prägung fehlt.

Komplexe Prompt-Strukturen: Ein Schutz ist theoretisch bei extrem komplexen, strukturierten und individuell gestalteten Prompts denkbar (z. B. bei sehr langen, mehrstufigen „Chain-of-Thought“-Anweisungen). In der Praxis wird die Schöpfungshöhe jedoch oft verneint, da der Fokus des Prompts meist auf der Erzielung eines Ergebnisses liegt und weniger auf der schöpferischen Ausdruckskraft des Textes selbst.

2. Schutz durch das Geschäftsgeheimnisgesetz (GeschGehG)
Da das Urheberrecht im Bereich des Prompt Engineering oft keine verlässliche Grundlage bietet, rückt der Schutz als Geschäftsgeheimnis in den Fokus. Wertvolle Prompts, die einem Unternehmen einen Wettbewerbsvorteil verschaffen, können nach dem Geschäftsgeheimnisgesetz geschützt sein. Dies setzt jedoch voraus, dass das Unternehmen aktiv „angemessene Geheimhaltungsmaßnahmen“ ergreift.

Vertragliche Absicherung: Die Rechte an Prompts, die von Angestellten oder Freelancern entwickelt wurden, verbleiben nur dann rechtssicher im Unternehmen, wenn entsprechende Klauseln in Arbeitsverträgen, IT-Richtlinien oder Dienstleistungsverträgen verankert sind.

Technische Maßnahmen: Der Zugriff auf wertvolle Prompt-Bibliotheken sollte durch technische Beschränkungen (Access Control) gesichert sein, um den rechtlichen Anforderungen an den Geheimnisschutz zu genügen.

3. Empfehlungen zur Absicherung von KI-Know-how
Unternehmen sollten sich bei der Absicherung ihres Prompt-Engineerings nicht allein auf das Urheberrecht verlassen. Der sicherste Weg führt über das Geheimnisschutzrecht. Es empfiehlt sich, besonders wertvolle Prompts intern explizit als Geschäftsgeheimnisse zu definieren und diese Definition durch wasserdichte Verträge mit Mitarbeitern und externen Dienstleistern rechtlich abzusichern. Damit wird sichergestellt, dass das entwickelte Know-how auch bei einem Personalwechsel im Unternehmen verbleibt.

Gegenüber Kunden, Partnern und Mitbewerbern haftet nach aktueller Rechtslage ausschließlich das anwendende Unternehmen. Die Annahme, die Verantwortung für fehlerhafte KI-Outputs auf die Software oder deren Entwickler abwälzen zu können, ist rechtlich nicht haltbar. Für eine rechtssichere Nutzung müssen Unternehmen die Zurechnungslogik des Bürgerlichen Gesetzbuchs (BGB) sowie das Prinzip des „Human-in-the-loop“ beachten.

1. Die Zurechnung von KI-Fehlern (Außenhaftung)
Da eine Künstliche Intelligenz keine eigene Rechtspersönlichkeit besitzt, kann sie nicht selbst als Haftungssubjekt auftreten. Beim Einsatz von KI-Tools zur Erstellung von Fachartikeln, Verträgen, Programmiercode oder zur Kundenberatung (z. B. via Chatbot) wird die Software rechtlich als Werkzeug oder wie ein Erfüllungsgehilfe (§ 278 BGB) des Nutzers behandelt.

Das Risiko von Halluzinationen: Große Sprachmodelle (LLMs) generieren statistisch plausible, aber nicht zwingend faktisch korrekte Antworten. Erzeugt die KI eine falsche Tatsachenbehauptung, einen fehlerhaften juristischen Rat oder eine falsche Preisberechnung, wird dieses Ergebnis dem anwendenden Unternehmen vollumfänglich zugerechnet. Entsteht Dritten dadurch ein Schaden, haftet das Unternehmen vertraglich (§ 280 BGB) oder deliktisch (§ 823 BGB).

Haftungsausschlüsse der Anbieter: Ein Regress gegenüber den Providern (z. B. OpenAI, Microsoft oder Google) ist in der Praxis nahezu ausgeschlossen. Die Nutzungsbedingungen (B2B-AGB) dieser Anbieter enthalten standardmäßig umfassende Haftungsausschlüsse für die Richtigkeit, Aktualität und rechtliche Unbedenklichkeit des Outputs. Das Verwendungsrisiko verbleibt somit beim Anwender.

2. Das Prinzip „Human-in-the-loop“ (HITL)
Um dem Vorwurf der Fahrlässigkeit oder einem Organisationsverschuldens der Geschäftsführung vorzubeugen, ist die Etablierung eines „Human-in-the-loop“-Prozesses zwingend erforderlich. Dies bedeutet, dass zwischen dem KI-Output und der finalen geschäftlichen Nutzung eine menschliche Kontrollinstanz geschaltet sein muss.

Vermeidung des „Automation Bias“: Die Rechtsprechung verlangt, der menschlichen Neigung zu blindem Vertrauen in Maschinenergebnisse (Automatisierungs-Bias) durch klare interne Prüfprozesse entgegenzuwirken. Die ungeprüfte Übernahme von KI-Inhalten (z. B. per Copy-Paste auf die Website oder in produktiven Software-Code) kann als grob fahrlässig eingestuft werden.

Pflicht zur Plausibilitätsprüfung: Ein Fachexperte muss den KI-Output auf inhaltliche Richtigkeit, Logik und mögliche Rechtsverletzungen (z. B. die unzulässige Übernahme geschützter Slogans oder Marken Dritter) prüfen und explizit freigeben, bevor die Information das Unternehmen verlässt.

3. Handlungsempfehlungen zur Risikominimierung
Zur Absicherung der Geschäftsführung sollten KI-Workflows durch dokumentierte Freigabeprozesse flankiert werden. Es empfiehlt sich, das „Human-in-the-loop“-Prinzip fest in der betrieblichen KI-Richtlinie zu verankern. Durch die Definition klarer Prüfpflichten und die Schulung der Mitarbeiter zur kritischen Bewertung von KI-Ergebnissen lassen sich Effizienzgewinne nutzen, ohne unkalkulierbare Haftungsrisiken einzugehen.

Mit dem Inkrafttreten der europäischen KI-Verordnung (EU AI Act) gelten für Unternehmen spezifische Transparenzpflichten. Ab dem 2. August 2026 greifen diese Vorgaben verbindlich, um die Täuschung von Nutzern über den Ursprung von Inhalten zu verhindern. Die Intensität der Kennzeichnungspflicht hängt dabei maßgeblich von der Art des Inhalts ab:

1. Interaktive KI-Systeme und Chatbots (Art. 50 Abs. 1 KI-VO)
Unternehmen, die KI-gestützte Systeme im Kundenkontakt einsetzen (z. B. Support-Chatbots oder Voicebots), müssen Nutzer darüber informieren, dass sie mit einer Maschine kommunizieren.

Ausnahme: Eine Kennzeichnung ist entbehrlich, wenn die Interaktion mit einer KI für einen durchschnittlich informierten Nutzer aufgrund der Umstände offensichtlich ist.

Verbot der Täuschung: Die bewusste Verschleierung der maschinellen Natur eines Systems (z. B. durch die Darstellung als menschlicher Mitarbeiter) ist nach der KI-VO unzulässig.

2. Deepfakes und realistische Bild- oder Videoinhalte (Art. 50 Abs. 4 S. 1 KI-VO)
KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die Personen, Orte oder Ereignisse täuschend echt darstellen (synthetische Medien), müssen vom Betreiber des KI-Systems zwingend als solche gekennzeichnet werden.

3. KI-generierte Texte (Art. 50 Abs. 4 S. 4 KI-VO)
Die Kennzeichnungspflicht für Texte ist an spezifische Bedingungen geknüpft und gilt nicht pauschal für jede Form der geschäftlichen Kommunikation:

Öffentliches Interesse: Eine Kennzeichnung ist grundsätzlich nur erforderlich, wenn Texte veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren (z. B. tagesaktuelle Nachrichten, gesellschaftliche oder politische Themen). Für rein werbliche Inhalte oder produktbezogene Beschreibungen greift diese Pflicht in der Regel nicht.

Die „Redaktionelle Ausnahme“ (Human-in-the-loop): Selbst bei Texten von öffentlichem Interesse (z. B. in Unternehmensblogs oder Pressemitteilungen) entfällt die Kennzeichnungspflicht, wenn der Inhalt vor der Veröffentlichung einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde. Übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung, gilt der Text rechtlich nicht mehr als rein KI-generiert im Sinne der Transparenzpflichten.

Automatisierte Veröffentlichung: Werden hingegen vollautomatisierte News-Feeds oder PR-Artikel ohne menschliche Kontrolle ausgespielt, bleibt die Kennzeichnungspflicht bestehen.

4. Formale Anforderungen an die Umsetzung (Art. 50 Abs. 5 KI-VO)
Bei der technischen und gestalterischen Umsetzung der Kennzeichnung müssen Unternehmen zwei zentrale formale Kriterien beachten:

Zeitpunkt der Information: Die Information über den KI-Einsatz muss den betroffenen Personen spätestens zum Zeitpunkt der ersten Interaktion oder der ersten Aussetzung gegenüber dem Inhalt in klarer und eindeutiger Weise bereitgestellt werden.

Barrierefreiheit: Sämtliche Transparenzhinweise müssen den geltenden Barrierefreiheitsanforderungen entsprechen, um sicherzustellen, dass die Information für alle Nutzergruppen gleichermaßen zugänglich ist.

5. Empfehlungen zur Implementierung im Unternehmen
Unternehmen sollten ihre Redaktionsabläufe und Customer-Journeys bereits vor dem Stichtag im August 2026 auf Konformität mit dem EU AI Act prüfen. Durch die Implementierung dokumentierter Freigabeprozesse („Human-in-the-loop“) lässt sich die Kennzeichnungspflicht für viele Textformate vermeiden. Gleichzeitig ist zu identifizieren, an welchen Schnittstellen (z. B. im Kundensupport oder bei synthetischen Medien) Transparenzhinweise rechtlich zwingend und technisch umzusetzen sind, um Bußgelder nach der KI-VO zu vermeiden.

Wie diese Vorgaben in der täglichen Arbeit von Marketingabteilungen und Kreativagenturen rechtssicher umgesetzt werden und wo die genauen Grenzen zwischen erlaubter Bildoptimierung und kennzeichnungspflichtigem Deepfake verlaufen, beleuchtet der ausführliche Praxisleitfaden zur KI-Kennzeichnungspflicht nach Art 50 Abs. 4 KI-VO.

Eine „KI-Richtlinie“ ist gesetzlich nicht unmittelbar vorschrieben. Die Notwendigkeit ergibt sich allerdings aus dem Zusammenspiel verschiedener Haftungsnormen. Ohne klare interne Vorgaben riskieren Geschäftsführung und IT-Leitung im Schadensfall eine Haftung wegen Organisationsverschuldens. Eine rechtssichere KI-Richtlinie (AI Acceptable Use Policy) adressiert dabei drei zentrale rechtliche Bereiche:

1. Gesetzliche Pflicht zur KI-Kompetenz (Art. 4 EU AI Act)
Mit dem Wirksamwerden der europäischen KI-Verordnung trifft Unternehmen, die KI-Systeme anwenden (sogenannte „Betreiber“), eine gesetzliche Fortbildungspflicht. Gemäß Art. 4 AI Act muss sichergestellt werden, dass das Personal über ein ausreichendes Maß an KI-Kompetenz (AI Literacy) verfügt.

Nachweispflicht: Eine KI-Richtlinie dient als zentrales Compliance-Dokument, um gegenüber Aufsichtsbehörden nachzuweisen, dass Mitarbeiter über Funktionsweise, Risiken und Grenzen der eingesetzten Systeme informiert wurden. Das Fehlen einer solchen Dokumentation kann einen unmittelbaren Verstoß gegen europäisches Recht darstellen.

2. Vermeidung von Schatten-IT (DSGVO & GeschGehG)
Ohne proaktive Regelung besteht das Risiko, dass Mitarbeiter eigenständig unautorisierte Tools nutzen. Dies gefährdet den Datenschutz und Unternehmensgeheimnisse.

Datenschutz: Die Richtlinie fungiert als technisch-organisatorische Maßnahme (TOM) gemäß Art. 32 DSGVO.

Geheimnisschutz: Sie stellt eine „angemessene Geheimhaltungsmaßnahme“ im Sinne von § 2 Abs. 1 Nr. 1 lit. b GeschGehG dar. Durch klare Vorgaben (Whitelisting erlaubter Tools und Blacklisting sensibler Datenkategorien) wird ein rechtssicherer Korridor für die Nutzung definiert.

3. Arbeitsrecht und Mitbestimmung des Betriebsrats
Der Einsatz von KI-Tools (z. B. Microsoft Copilot oder Google Workspace KI) ist in mitbestimmten Unternehmen mit arbeitsrechtlichen Hürden verbunden, da diese Systeme objektiv geeignet sind, das Verhalten oder die Leistung der Belegschaft zu überwachen.

Überwachungsschutz: Dies löst zwingend das Mitbestimmungsrecht des Betriebsrats nach § 87 Abs. 1 Nr. 6 BetrVG aus. Zudem sieht § 90 Abs. 1 Nr. 3 BetrVG vor, dass der Betriebsrat über die Planung des KI-Einsatzes frühzeitig zu unterrichten ist. Nach § 80 Abs. 3 BetrVG kann der Betriebsrat hierzu externe Sachverständige auf Kosten des Arbeitgebers hinzuziehen.

Beschleunigung des Rollouts: Eine fundierte KI-Richtlinie kann als Grundlage für eine Rahmenbetriebsvereinbarung (RBV) dienen. Wenn darin rechtlich verbindlich festgelegt wird, dass die KI rein als Assistenzsystem fungiert und eine Leistungs- oder Verhaltenskontrolle ausgeschlossen ist, lässt sich der Einführungsprozess erheblich beschleunigen.

4. Empfehlungen zur Implementierung
Anstatt eines pauschalen Verbots empfiehlt sich die Etablierung klarer Leitplanken. Eine maßgeschneiderte KI-Richtlinie sollte die spezifischen Workflows des Unternehmens abbilden, die Vorgaben des EU AI Acts erfüllen und eine reibungslose Abstimmung mit dem Betriebsrat sowie dem Datenschutzbeauftragten ermöglichen. Dies stellt sicher, dass Effizienzgewinne genutzt werden können, ohne die Geschäftsführung unkalkulierbaren Haftungsrisiken auszusetzen.

Ja, der EU AI Act (KI-Verordnung) gilt für nahezu jedes Unternehmen, das KI-Systeme geschäftlich einsetzt. Das Gesetz unterscheidet dabei strikt zwischen verschiedenen Rollen innerhalb der KI-Wertschöpfungskette. Die rechtlichen Pflichten und Haftungsrisiken hängen maßgeblich davon ab, ob ein Unternehmen als „Betreiber“ (Deployer) oder als „Anbieter“ (Provider) eingestuft wird.

1. Die Rolle als „Betreiber“ (Deployer) gem. Art. 3 Nr. 4 KI-VO
Ein Unternehmen gilt rechtlich als Betreiber, wenn es ein KI-System unter eigener Verantwortung im beruflichen oder geschäftlichen Kontext nutzt. Dies umfasst die Verwendung von lizenzierten Tools, Kauf-Software oder Open-Source-Anwendungen (z. B. Microsoft Copilot, ChatGPT Enterprise oder Midjourney).

Pflichten für Betreiber: Auch ohne Eigenentwicklung treffen den Betreiber spezifische Pflichten. Dazu gehört die Sicherstellung der KI-Kompetenz des Personals (Art. 4 KI-VO) sowie die Erfüllung von Transparenzpflichten im Kundenkontakt (Art. 50 KI-VO).

Hochrisiko-Systeme: Kommen KI-Systeme in sensiblen Bereichen wie dem Personalwesen (z. B. automatisiertes CV-Screening) zum Einsatz, wird das Unternehmen zum Betreiber eines Hochrisiko-KI-Systems. Dies löst weitreichende Überwachungs-, Protokollierungs- und Dokumentationspflichten aus.

2. Die Rolle als „Anbieter“ (Provider) gem. Art. 3 Nr. 2 KI-VO
Als Anbieter gilt ein Unternehmen, wenn es ein KI-System entwickelt (oder entwickeln lässt) und dieses unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt.

Hauptlast der Regulierung: Anbieter tragen die umfassendsten Pflichten des AI Acts. Sie müssen Risikomanagementsysteme etablieren, technische Dokumentationen erstellen, Konformitätsbewertungen durchführen und das System mit einer CE-Kennzeichnung versehen. Verstöße können Bußgelder in Millionenhöhe nach sich ziehen.

3. Die Haftungsfalle: Übergang der Anbieterpflichten (Art. 25 KI-VO)
Ein erhebliches Risiko besteht darin, dass ein ursprünglicher Nutzer (Betreiber) rechtlich zum Anbieter mit allen damit verbundenen Pflichten hergestuft wird. Dies geschieht gemäß Art. 25 KI-VO unter folgenden Bedingungen:

White-Labeling: Ein fremdes KI-Modell wird unter dem eigenen Firmennamen oder einer eigenen Marke vertrieben.

Zweckänderung: Das KI-System wird für einen Zweck eingesetzt, der vom ursprünglichen Hersteller nicht vorgesehen war.

Wesentliche Veränderung: Ein bestehendes System wird tiefgreifend angepasst (z. B. durch signifikantes Fine-Tuning oder strukturelle Eingriffe), wodurch sich das Risikoprofil der KI verändert.

4. Empfehlungen zur Rollenklärung (Role Mapping)
Unternehmen sollten ihre KI-Einsatzszenarien einer präzisen Analyse unterziehen, um ihre rechtliche Position eindeutig zu klassifizieren. Insbesondere bei internen IT-Projekten oder der Anpassung von Open-Source-Modellen besteht die Gefahr, unbewusst in die Rolle des Anbieters zu rücken. Ein strukturiertes Role Mapping ermöglicht es, die Einhaltung der Konformitätsvorgaben sicherzustellen und zu verhindern, dass die Grenze zum haftungskritischen Anbieterstatus unkontrolliert überschritten wird.

Der Aufbau eigener KI-Modelle, das Fine-Tuning von Open-Source-Modellen oder die Befüllung von Datenbanken für RAG-Systeme (Retrieval-Augmented Generation) erfordern eine strikte rechtliche Prüfung der verwendeten Datensätze. Die Nutzung von Web-Daten oder internen CRM-Systemen als Trainingsgrundlage ist an spezifische gesetzliche Voraussetzungen gebunden.

1. Urheberrechtliche Schranken (Text und Data Mining gem. § 44b UrhG)
Das automatisierte Auslesen von Websites, Texten oder Bildern (Scraping) zu Trainingszwecken berührt die Verwertungsrechte der Urheber.

Gesetzliche Erlaubnis: Das deutsche Urheberrecht gestattet grundsätzlich das Text und Data Mining (TDM) zur automatisierten Auswertung großer Datenmengen für kommerzielle Zwecke (§ 44b Abs. 1 und 2 UrhG).

Der Nutzungsvorbehalt (Opt-out): Diese Erlaubnis entfällt, wenn der Rechteinhaber einen Nutzungsvorbehalt erklärt hat (§ 44b Abs. 3 UrhG). Bei online zugänglichen Inhalten muss dieser Vorbehalt in maschinenlesbarer Form erfolgen (z. B. in der robots.txt einer Website oder in den Metadaten von Bilddateien). Werden diese Vorbehalte missachtet, liegt eine abmahnfähige Urheberrechtsverletzung vor.

2. Datenschutzrechtliche Zweckbindung (Art. 5 Abs. 1 lit. b DSGVO)
Die Verwendung historischer Kundendaten (z. B. E-Mails aus dem Support) zum Training von Service-Bots unterliegt dem Grundsatz der Zweckbindung.

Zweckänderung: Personenbezogene Daten dürfen primär nur für den Zweck verarbeitet werden, für den sie ursprünglich erhoben wurden (z. B. die Vertragsabwicklung). Das KI-Training stellt rechtlich einen neuen Verarbeitungszweck dar.

Rechtsgrundlage: Eine solche Weiterverarbeitung ist nur zulässig, wenn der neue Zweck mit dem ursprünglichen vereinbar ist (Kompatibilitätsprüfung gem. Art. 6 Abs. 4 DSGVO) oder eine gesonderte Rechtsgrundlage vorliegt. Die Berufung auf ein berechtigtes Interesse (Art. 6 Abs. 1 lit. f DSGVO) ist hierbei juristisch oft umstritten.

Lösungsansatz: Als rechtssicherer Weg gilt die vollständige und irreversible Anonymisierung der Daten, bevor diese in den Trainings-Datensatz überführt werden, da anonymisierte Daten nicht mehr in den Anwendungsbereich der DSGVO fallen.

3. Vertraglicher Geheimnisschutz und Data Leakage
Das Training von KI-Modellen mit Projektunterlagen, Programmcode oder Strategiepapieren von B2B-Kunden kann gegen bestehende Geheimhaltungsvereinbarungen (NDAs) sowie das Geschäftsgeheimnisgesetz (GeschGehG) verstoßen.

Risiko des Overfitting: Besteht die Gefahr, dass ein Modell Teile seiner Trainingsdaten reproduziert (Overfitting), könnten vertrauliche Informationen eines Kunden unbeabsichtigt als Output gegenüber Dritten ausgegeben werden. Dies führt zu massiven Haftungsrisiken und dem Verlust des rechtlichen Geheimnisschutzes.

4. Empfehlungen zur Data Governance
Vor Beginn von Trainings- oder Fine-Tuning-Projekten sollte eine strikte rechtliche Data Governance etabliert werden. Dies umfasst die Prüfung von Scraping-Routinen auf TDM-Konformität nach § 44b UrhG sowie die Implementierung von Anonymisierungskonzepten für personenbezogene Datensätze. Eine frühzeitige rechtliche Auditierung der Trainings-Pipelines stellt sicher, dass das finale KI-Modell keine unkalkulierbaren Haftungsrisiken für das Unternehmen darstellt.

Der EU AI Act reguliert nicht die Technologie an sich, sondern ihren konkreten Einsatzzweck. Das Gesetz verfolgt einen risikobasierten Ansatz: Je höher die potenzielle Gefahr für Grundrechte, Sicherheit oder Gesundheit ist, desto strenger sind die regulatorischen Anforderungen. Jedes im Unternehmen eingesetzte oder entwickelte KI-System muss in eine der folgenden vier Kategorien eingestuft werden:

1. Minimales Risiko (Allgemeine Pflichten)
Die Mehrheit der Anwendungen (z. B. KI-gestützte Spam-Filter oder einfache Rechtschreibprüfungen) fällt in diese Kategorie.

Rechtslage: Für diese Systeme bestehen keine spezifischen Anforderungen an das Risikomanagement. Dennoch greift die allgemeine gesetzliche Schulungspflicht zur KI-Kompetenz (AI Literacy) gemäß Art. 4 AI Act für das Personal. Zudem sind die allgemeinen Kennzeichnungspflichten bei der Generierung von Inhalten (Art. 50 AI Act) zu beachten.

2. Begrenztes Risiko (Transparenzpflichten)
Hierunter fallen Systeme mit einem gewissen Manipulations- oder Täuschungspotenzial, wie beispielsweise Chatbots oder Deepfakes.

Rechtslage: Im Zentrum stehen hier die Offenlegungspflichten. Nutzer müssen unmissverständlich darüber informiert werden, dass sie mit einer KI interagieren oder KI-generierte Inhalte konsumieren.

3. Hohes Risiko (Umfassende Compliance-Anforderungen)
Ein KI-System gilt als „Hochrisiko-KI“, wenn es maßgeblichen Einfluss auf die Lebensgestaltung oder die Rechte von Personen hat. Dies betrifft in der Unternehmenspraxis vor allem zwei Bereiche:

Personalwesen (HR): Systeme zur automatisierten Filterung von Bewerber-Lebensläufen (CV-Screening), zur Leistungsbewertung oder zur Entscheidung über Beförderungen.

Finanzdienstleistungen: KI-Systeme, die über die Kreditwürdigkeit oder den Zugang zu Finanzdienstleistungen entscheiden.

Rechtslage: Für Hochrisiko-Systeme gelten weitreichende Pflichten bezüglich des Risikomanagements, der Daten-Governance, der technischen Dokumentation und der menschlichen Aufsicht (Art. 14 AI Act).

4. Inakzeptables Risiko (Strenge Verbote)
Bestimmte KI-Praktiken sind aufgrund ihrer Unvereinbarkeit mit europäischen Werten gemäß Art. 5 AI Act strikt verboten. Verstöße können Bußgelder von bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes nach sich ziehen.

Beispiele für Verbote: „Social Scoring“ zur Bewertung des sozialen Verhaltens sowie die biometrische Echtzeit-Identifizierung im öffentlichen Raum.

Relevanz für Arbeitgeber: Der Einsatz von KI zur Emotionserkennung am Arbeitsplatz (z. B. Analyse von Gesichtsausdrücken in Videokonferenzen zur Stressmessung) ist in der EU nunmehr illegal.