Welche Pflichten gelten bei der Nutzung generativer KI? Rechtliche Grundlagen & Praxisbeispiele

Die rasante Entwicklung generativer KI-Technologien bietet Unternehmen und Privatpersonen immense Möglichkeiten, birgt aber auch erhebliche Risiken. Das Verständnis der damit verbundenen Pflichten ist essenziell, um rechtliche Konsequenzen zu vermeiden und die Technologie verantwortungsvoll zu nutzen. Dieser Artikel beleuchtet die rechtlichen Grundlagen im Kontext generativer KI, gibt praxisnahe Beispiele für die Anwendung im Unternehmensalltag und zeigt, wie man Haftungsrisiken minimiert. Dabei werden sowohl aktuelle nationale und europäische Regulierungen als auch ethische Aspekte berücksichtigt, um einen umfassenden Überblick zu gewährleisten. Ein besonderer Fokus liegt auf den rechtlichen Pflichten, die sich aus der Nutzung generativer KI ergeben.

Grundlagen Generativer KI und ihre Anwendungsbereiche

Generative KI bezieht sich auf eine Kategorie von Künstlicher Intelligenz (KI), die in der Lage ist, neue Inhalte zu erstellen, anstatt lediglich vorhandene Daten zu analysieren oder zu verarbeiten. Diese Inhalte können vielfältig sein und reichen von Texten über Bilder und Musik bis hin zu Code und 3D-Modellen. Die Funktionsweise basiert in der Regel auf komplexen Algorithmen des maschinellen Lernens, insbesondere auf sogenannten generativen adversariellen Netzwerken (GANs) oder Transformer-Modellen. Diese Modelle werden mit großen Datenmengen trainiert, um Muster und Strukturen zu erkennen und anschließend ähnliche, aber neue Inhalte zu generieren.

Es gibt verschiedene Typen von generativer KI, die sich in ihren Fähigkeiten und Anwendungsbereichen unterscheiden:

• Textgenerierung: Diese Art der KI ist in der Lage, menschenähnlichen Text zu verfassen. Anwendungsbereiche sind beispielsweise die Erstellung von Blogartikeln, Marketingtexten, Produktbeschreibungen oder sogar Drehbüchern. Tools wie GPT-3 oder LaMDA sind hier führend.
• Bildgenerierung: Hier erzeugt die KI Bilder auf Basis von Texteingaben oder anderen Bildvorlagen. Beispiele sind die Erstellung von fotorealistischen Bildern, Illustrationen, Grafiken oder das Bearbeiten und Verbessern von vorhandenen Bildern. Bekannte Plattformen sind DALL-E 2, Midjourney oder Stable Diffusion.
• Codegenerierung: Diese Anwendung generiert automatisch Programmcode basierend auf einer Beschreibung der gewünschten Funktionalität. Dies kann die Softwareentwicklung beschleunigen und vereinfachen. Beispiele sind GitHub Copilot oder Tabnine.
• Musikgenerierung: Diese KI-Systeme können Musikstücke in verschiedenen Stilen und Genres komponieren. Anwendungsbereiche sind die Erstellung von Hintergrundmusik, Soundeffekten oder die Unterstützung von Komponisten. Beispiele sind Jukebox von OpenAI oder Amper Music.

Die Anwendungsbereiche generativer KI sind vielfältig und finden sich in zahlreichen Branchen:

• Content-Erstellung: Im Marketing und Journalismus wird generative KI eingesetzt, um Texte, Bilder und Videos für Webseiten, soziale Medien und andere Kanäle zu erstellen.
• Softwareentwicklung: Durch die automatische Generierung von Code können Entwickler Zeit sparen und die Effizienz steigern.
• Kundenservice: Chatbots und virtuelle Assistenten, die auf generativer KI basieren, können Kundenanfragen beantworten und personalisierte Unterstützung bieten.
• Design: Architekten und Designer nutzen generative KI, um innovative Entwürfe zu erstellen und zu visualisieren.
• Forschung und Entwicklung: In der Medizin oder Chemie kann generative KI beispielsweise neue Medikamente oder Materialien entwerfen.

Rechtliche Grundlagen: Ein Überblick

Die Nutzung generativer KI wirft eine Vielzahl von rechtlichen Fragen auf, die sowohl auf nationaler als auch auf europäischer Ebene relevant sind. Zu den wichtigsten Rechtsvorschriften gehören das Urheberrecht, das Datenschutzrecht (insbesondere die DSGVO), das Produkthaftungsgesetz und das Wettbewerbsrecht. Zusätzlich ist die geplante KI-Verordnung der Europäischen Union von großer Bedeutung, da sie erstmals einen umfassenden Rechtsrahmen für KI-Systeme schaffen wird.

Das Urheberrecht schützt geistige Werke wie Texte, Bilder, Musik und Software. Bei der Nutzung generativer KI stellt sich die Frage, wer Urheber der generierten Inhalte ist und welche Nutzungsrechte beachtet werden müssen. Grundsätzlich gilt, dass nur natürliche Personen Urheber sein können. Bei von KI generierten Inhalten ist die Rechtslage komplex und hängt von den konkreten Umständen ab.

Das Datenschutzrecht, insbesondere die DSGVO, regelt die Verarbeitung personenbezogener Daten. Bei der Entwicklung und Nutzung generativer KI-Systeme müssen die Grundsätze der DSGVO eingehalten werden, wie z.B. die Datenminimierung, die Zweckbindung und die Transparenz. Zudem müssen die Betroffenenrechte (z.B. Auskunftsrecht, Recht auf Löschung) gewahrt werden. Ein Überblick über datenschutzrechtliche Aspekte beim Einsatz von KI bietet die Datenschutzbehörde Baden-Württemberg in diesem Artikel: Rechtsgrundlagen im Datenschutz beim Einsatz von Künstlicher …

Das Produkthaftungsgesetz regelt die Haftung für Schäden, die durch fehlerhafte Produkte verursacht werden. Wenn generative KI-Systeme Fehler verursachen, die zu Schäden führen, stellt sich die Frage, wer für diese Schäden haftet. Dies kann beispielsweise der Entwickler des KI-Systems, der Nutzer oder der Anbieter sein.

Das Wettbewerbsrecht soll einen fairen Wettbewerb sicherstellen. Bei der Nutzung generativer KI müssen wettbewerbsrechtliche Vorschriften beachtet werden, beispielsweise das Verbot von irreführender Werbung oder die Einhaltung von Kartellverboten.

Die KI-Verordnung (Artificial Intelligence Act, AIA) der Europäischen Union zielt darauf ab, einen harmonisierten Rechtsrahmen für KI-Systeme zu schaffen. Sie klassifiziert KI-Systeme nach ihrem Risikopotenzial und legt je nach Risikoklasse unterschiedliche Anforderungen fest. Für KI-Systeme mit hohem Risiko, wie z.B. solche, die in kritischen Infrastrukturen eingesetzt werden, gelten strenge Anforderungen an die Transparenz, die Sicherheit und die Überwachung. Einen Artikel des Europäischen Parlaments über die erste Regulierung der künstlichen Intelligenz durch das KI-Gesetz finden Sie hier: KI-Gesetz: erste Regulierung der künstlichen Intelligenz | Themen …

Pflichten im Umgang mit Urheberrechten bei generativer KI

Die Nutzung generativer KI wirft komplexe urheberrechtliche Fragen auf. Wer ist der Urheber eines durch KI generierten Werks? Welche Nutzungsrechte sind zu beachten, wenn man KI-generierte Inhalte verwendet? Und wie können Unternehmen sicherstellen, dass sie keine Urheberrechtsverletzungen begehen? Grundsätzlich gilt im deutschen Urheberrecht, dass nur natürliche Personen Urheber sein können. KI-Systeme selbst sind nicht rechtsfähig und können daher keine Urheberrechte erwerben. Die Frage, wem die Rechte an KI-generierten Inhalten zustehen, hängt von der konkreten Nutzungssituation und dem Grad der menschlichen Beteiligung ab.

Wenn ein Mensch die KI lediglich als Werkzeug nutzt und den generierten Inhalt maßgeblich prägt, kann er Urheber des Werks sein. In diesem Fall muss der Nutzer jedoch sicherstellen, dass er über die erforderlichen Nutzungsrechte an den verwendeten Trainingsdaten verfügt. Viele KI-Modelle werden mit urheberrechtlich geschütztem Material trainiert. Werden diese Daten ohne entsprechende Lizenz verwendet, kann dies zu Urheberrechtsverletzungen führen. Unternehmen sollten daher sorgfältig prüfen, welche Daten für das Training der KI-Modelle verwendet wurden und ob die erforderlichen Lizenzen vorliegen.

Anders sieht die Situation aus, wenn die KI den Inhalt weitgehend selbstständig generiert und der menschliche Einfluss gering ist. In diesem Fall ist die Rechtslage umstritten. Einige Juristen vertreten die Auffassung, dass es sich um ein urheberrechtsfreies Werk handelt, da kein menschlicher Urheber vorhanden ist. Andere sehen denjenigen als Rechteinhaber, der das KI-System betreibt oder trainiert hat. Um Rechtsunsicherheiten zu vermeiden, empfiehlt es sich, bei der Nutzung von KI-generierten Inhalten stets eine sorgfältige Prüfung vorzunehmen und gegebenenfalls eine Rechtsberatung einzuholen.

Ein häufiges Problem ist die Ähnlichkeit von KI-generierten Inhalten mit bereits existierenden Werken. Wenn die KI beispielsweise ein Bild generiert, das einem urheberrechtlich geschützten Foto sehr ähnlich ist, kann dies eine Urheberrechtsverletzung darstellen. Unternehmen sollten daher sicherstellen, dass ihre KI-Systeme so konfiguriert sind, dass sie keine Plagiate erstellen. Dies kann beispielsweise durch den Einsatz von Filtern oder durch die Verwendung von speziell kuratierten Trainingsdaten erreicht werden.

Die DIHK weist darauf hin, dass Unternehmen rechtliche und finanzielle Risiken im Zusammenhang mit generativer KI berücksichtigen sollten. Was Unternehmen beim Umgang mit generativen KI-Anwendungen … – Der Artikel der DIHK hebt hervor, dass Unternehmen rechtliche und finanzielle Risiken im Zusammenhang mit generativer KI berücksichtigen sollten.

Praxisbeispiel: Ein Unternehmen nutzt eine KI zur Erstellung von Marketingtexten. Die KI generiert einen Slogan, der einem bereits bestehenden Slogan einer anderen Firma sehr ähnlich ist. Um eine Urheberrechtsverletzung zu vermeiden, sollte das Unternehmen den Slogan vor der Verwendung rechtlich prüfen lassen und gegebenenfalls abändern.

Datenschutzrechtliche Aspekte und die DSGVO

Die Nutzung generativer KI unterliegt auch den Bestimmungen des Datenschutzrechts, insbesondere der DSGVO. Generative KI-Systeme verarbeiten häufig personenbezogene Daten, sei es bei der Erstellung von Inhalten oder bei der Analyse von Nutzerverhalten. Unternehmen müssen sicherstellen, dass sie die Grundsätze der DSGVO einhalten, wie z.B. die Datenminimierung, die Zweckbindung und die Transparenz.

Die Datenminimierung bedeutet, dass nur so viele personenbezogene Daten verarbeitet werden dürfen, wie für den jeweiligen Zweck erforderlich sind. Bei der Entwicklung und Nutzung generativer KI-Systeme sollten Unternehmen daher darauf achten, dass sie nicht unnötig viele Daten sammeln und verarbeiten.

Die Zweckbindung besagt, dass personenbezogene Daten nur für den Zweck verarbeitet werden dürfen, für den sie erhoben wurden. Wenn beispielsweise ein KI-System zur Erstellung von personalisierten Produktempfehlungen eingesetzt wird, dürfen die gesammelten Daten nicht für andere Zwecke verwendet werden, wie z.B. für die Erstellung von Nutzerprofilen für Werbezwecke.

Die Transparenz erfordert, dass die betroffenen Personen darüber informiert werden, welche personenbezogenen Daten verarbeitet werden, zu welchem Zweck und auf welcher Rechtsgrundlage. Unternehmen müssen ihre Datenschutzerklärungen entsprechend anpassen und die Nutzer über den Einsatz von KI-Systemen informieren.

Zudem müssen Unternehmen die Betroffenenrechte wahren, wie z.B. das Auskunftsrecht, das Recht auf Berichtigung, das Recht auf Löschung und das Recht auf Widerspruch. Nutzer haben das Recht, Auskunft darüber zu verlangen, welche personenbezogenen Daten von ihnen verarbeitet werden und wie diese Daten verwendet werden. Sie haben auch das Recht, unrichtige Daten berichtigen oder löschen zu lassen. Zudem können sie der Verarbeitung ihrer Daten widersprechen, wenn diese auf berechtigten Interessen des Unternehmens beruht.

Die Datensicherheit ist ein weiterer wichtiger Aspekt des Datenschutzrechts. Unternehmen müssen geeignete technische und organisatorische Maßnahmen ergreifen, um die Sicherheit der personenbezogenen Daten zu gewährleisten und sie vor unbefugtem Zugriff, Verlust oder Zerstörung zu schützen. Dies kann beispielsweise durch den Einsatz von Verschlüsselungstechnologien, die Implementierung von Zugriffskontrollen oder die Durchführung von regelmäßigen Sicherheitsaudits erreicht werden.

Die Datenschutzbehörde Baden-Württemberg bietet einen Überblick über datenschutzrechtliche Aspekte beim Einsatz von KI. Rechtsgrundlagen im Datenschutz beim Einsatz von Künstlicher … – Dieser Artikel der Datenschutzbehörde Baden-Württemberg gibt einen Überblick über datenschutzrechtliche Aspekte beim Einsatz von KI.

Praxisbeispiel: Ein Unternehmen setzt einen Chatbot ein, der auf generativer KI basiert und Kundenanfragen beantwortet. Um die DSGVO einzuhalten, muss das Unternehmen die Kunden über den Einsatz des Chatbots informieren, ihnen die Möglichkeit geben, ihre Daten berichtigen oder löschen zu lassen, und die Datenübertragung verschlüsseln.

Haftung für Fehler und Schäden durch generative KI

Die Haftungsfrage im Zusammenhang mit Fehlern oder Schäden, die durch generative KI verursacht werden, ist komplex und noch nicht abschließend geklärt. Grundsätzlich stellt sich die Frage, wer für die Schäden haftet: der Entwickler des KI-Systems, der Nutzer oder der Anbieter?

Wenn der Fehler auf einen Konstruktions- oder Programmierfehler des KI-Systems zurückzuführen ist, kann der Entwickler des Systems haftbar gemacht werden. Dies ist insbesondere dann der Fall, wenn der Entwickler seine Sorgfaltspflichten verletzt hat, z.B. indem er das System nicht ausreichend getestet oder Sicherheitslücken nicht behoben hat.

Der Nutzer des KI-Systems kann ebenfalls haftbar gemacht werden, wenn er das System unsachgemäß verwendet oder die Ergebnisse der KI nicht ausreichend überprüft. Beispielsweise kann ein Unternehmen haftbar gemacht werden, wenn es eine KI zur Erstellung von fehlerhaften Produktbeschreibungen einsetzt und dadurch Schäden bei den Kunden verursacht.

Der Anbieter des KI-Systems kann haftbar gemacht werden, wenn er das System als fehlerfrei beworben hat, obwohl er wusste oder hätte wissen müssen, dass es Fehler aufweisen kann. Zudem kann der Anbieter haftbar gemacht werden, wenn er seinen Informationspflichten nicht nachgekommen ist und die Nutzer nicht ausreichend über die Risiken der Nutzung des KI-Systems aufgeklärt hat.

Um Haftungsrisiken zu minimieren, sollten Unternehmen folgende Maßnahmen ergreifen:

• Sorgfältige Auswahl des KI-Systems: Vor der Einführung eines KI-Systems sollten Unternehmen sorgfältig prüfen, ob das System zuverlässig und sicher ist. Sie sollten sich über die Leistungsfähigkeit des Systems informieren, Referenzen einholen und gegebenenfalls unabhängige Tests durchführen lassen.
• Regelmäßige Überprüfung der Ergebnisse: Unternehmen sollten die Ergebnisse der KI-Systeme regelmäßig überprüfen, um Fehler oder Ungenauigkeiten frühzeitig zu erkennen und zu beheben. Dies ist insbesondere dann wichtig, wenn die KI in kritischen Bereichen eingesetzt wird, wie z.B. im Gesundheitswesen oder im Finanzwesen.
• Transparente Kommunikation: Unternehmen sollten transparent darüber informieren, dass sie KI-Systeme einsetzen und wie diese Systeme funktionieren. Sie sollten die Nutzer über die Risiken der Nutzung der KI-Systeme aufklären und ihnen die Möglichkeit geben, Feedback zu geben oder Beschwerden einzureichen.
• Abschluss einer Haftpflichtversicherung: Unternehmen sollten eine Haftpflichtversicherung abschließen, die Schäden abdeckt, die durch den Einsatz von KI-Systemen verursacht werden.

Die Produkthaftung greift, wenn durch ein fehlerhaftes Produkt ein Schaden entstanden ist. Dies kann auch generative KI betreffen.
Praxisbeispiel: Ein Unternehmen setzt eine KI zur Diagnose von Krankheiten ein. Die KI stellt eine Fehldiagnose, aufgrund derer der Patient falsch behandelt wird und einen Schaden erleidet. In diesem Fall kann das Unternehmen haftbar gemacht werden, wenn es seine Sorgfaltspflichten verletzt hat, z.B. indem es die KI nicht ausreichend validiert oder die Ergebnisse der KI nicht von einem Arzt überprüfen lassen hat.

Ethische Überlegungen bei der Nutzung generativer KI

Neben den rechtlichen Pflichten sind auch ethische Überlegungen bei der Nutzung generativer KI von entscheidender Bedeutung. Unternehmen stehen in der Verantwortung, sicherzustellen, dass ihre KI-Systeme nicht nur gesetzeskonform sind, sondern auch ethischen Standards entsprechen. Dies umfasst Themen wie Transparenz, Fairness, Verantwortlichkeit und die Vermeidung von Bias und Diskriminierung.

Transparenz bedeutet, dass Unternehmen offenlegen sollten, wie ihre KI-Systeme funktionieren, welche Daten sie verwenden und wie Entscheidungen getroffen werden. Nutzer sollten in der Lage sein, nachzuvollziehen, warum ihnen bestimmte Inhalte angezeigt werden oder warum eine KI eine bestimmte Empfehlung gibt. Dies fördert das Vertrauen und ermöglicht es den Nutzern, informierte Entscheidungen zu treffen.

Fairness bedeutet, dass KI-Systeme nicht zu ungerechten oder diskriminierenden Ergebnissen führen dürfen. Dies ist besonders wichtig in Bereichen wie der Personalbeschaffung oder der Kreditvergabe, wo KI-Systeme potenziell zu Benachteiligungen bestimmter Personengruppen führen können. Unternehmen sollten ihre KI-Systeme sorgfältig prüfen, um sicherzustellen, dass sie keine Bias enthalten und dass sie alle Nutzer gleich behandeln.

Verantwortlichkeit bedeutet, dass Unternehmen die Verantwortung für die Auswirkungen ihrer KI-Systeme übernehmen müssen. Wenn ein KI-System einen Fehler verursacht oder Schaden anrichtet, müssen die Unternehmen in der Lage sein, den Fehler zu beheben und die Schäden zu kompensieren. Dies erfordert eine klare Verantwortungsstruktur und ein effektives Risikomanagement.

Die Vermeidung von Bias und Diskriminierung ist eine besondere Herausforderung bei der Entwicklung und Nutzung generativer KI. KI-Systeme werden mit großen Datenmengen trainiert, die potenziell Vorurteile und Stereotypen enthalten können. Wenn diese Vorurteile in das KI-System einfließen, kann dies zu diskriminierenden Ergebnissen führen. Unternehmen sollten daher sorgfältig darauf achten, welche Daten sie für das Training ihrer KI-Systeme verwenden und wie sie Bias erkennen und beseitigen können.

Um sicherzustellen, dass ihre KI-Systeme ethisch vertretbar eingesetzt werden, sollten Unternehmen folgende Maßnahmen ergreifen:

• Entwicklung ethischer Richtlinien: Unternehmen sollten klare ethische Richtlinien für die Entwicklung und Nutzung von KI-Systemen festlegen.
• Schulung der Mitarbeiter: Die Mitarbeiter sollten über ethische Aspekte der KI aufgeklärt und geschult werden.
• Einbindung von Experten: Bei der Entwicklung und Nutzung von KI-Systemen sollten Experten für Ethik und Datenschutz hinzugezogen werden.
• Regelmäßige Überprüfung: Die KI-Systeme sollten regelmäßig auf ethische Risiken überprüft werden.
• Feedback von Nutzern: Die Nutzer sollten die Möglichkeit haben, Feedback zu geben und Bedenken zu äußern.

Indem Unternehmen ethische Überlegungen in den Mittelpunkt ihrer KI-Strategie stellen, können sie das Vertrauen der Nutzer gewinnen und sicherstellen, dass generative KI zum Wohl der Gesellschaft eingesetzt wird.

Fazit

Die Nutzung generativer KI bietet enorme Chancen, birgt aber auch erhebliche rechtliche und ethische Risiken. Unternehmen müssen sich dieser Risiken bewusst sein und entsprechende Maßnahmen ergreifen, um sie zu minimieren. Dazu gehört die Einhaltung der geltenden Gesetze und Vorschriften, insbesondere des Urheberrechts, des Datenschutzrechts und des Produkthaftungsrechts. Zudem müssen Unternehmen ethische Grundsätze beachten und sicherstellen, dass ihre KI-Systeme transparent, fair und verantwortungsvoll eingesetzt werden. Die rechtliche Regulierung der KI befindet sich noch in der Entwicklung, insbesondere durch die KI-Verordnung der Europäischen Union. Es ist daher wichtig, sich kontinuierlich über die aktuellen Entwicklungen zu informieren und die Nutzung generativer KI verantwortungsvoll zu gestalten, um das Potenzial dieser Technologie voll auszuschöpfen und gleichzeitig Schaden zu vermeiden.

Weiterführende Quellen

• Bitkom-Leitfaden-Generative-KI-im-Unternehmen.pdf – Der Bitkom-Leitfaden bietet eine Richtlinie zur Nutzung generativer KI im Unternehmen.
• Orientierungshilfe – Diese Orientierungshilfe der DSK bietet einen Überblick über datenschutzrechtliche Kriterien für die datenschutzkonforme Nutzung von KI-Anwendungen.