Welche Pflichten gelten bei der Nutzung generativer KI? Rechtliche Grundlagen & Praxisbeispiele

Die rasan­te Ent­wick­lung gene­ra­ti­ver KI-Tech­no­lo­gien bie­tet Unter­neh­men und Pri­vat­per­so­nen immense Mög­lich­kei­ten, birgt aber auch erheb­li­che Risi­ken. Das Ver­ständ­nis der damit ver­bun­de­nen Pflich­ten ist essen­zi­ell, um recht­li­che Kon­se­quen­zen zu ver­mei­den und die Tech­no­lo­gie ver­ant­wor­tungs­voll zu nut­zen. Die­ser Arti­kel beleuch­tet die recht­li­chen Grund­la­gen im Kon­text gene­ra­ti­ver KI, gibt pra­xis­na­he Bei­spie­le für die Anwen­dung im Unter­neh­mens­all­tag und zeigt, wie man Haf­tungs­ri­si­ken mini­miert. Dabei wer­den sowohl aktu­el­le natio­na­le und euro­päi­sche Regu­lie­run­gen als auch ethi­sche Aspek­te berück­sich­tigt, um einen umfas­sen­den Über­blick zu gewähr­leis­ten. Ein beson­de­rer Fokus liegt auf den recht­li­chen Pflich­ten, die sich aus der Nut­zung gene­ra­ti­ver KI erge­ben.

Grundlagen Generativer KI und ihre Anwendungsbereiche

Gene­ra­ti­ve KI bezieht sich auf eine Kate­go­rie von Künst­li­cher Intel­li­genz (KI), die in der Lage ist, neue Inhal­te zu erstel­len, anstatt ledig­lich vor­han­de­ne Daten zu ana­ly­sie­ren oder zu ver­ar­bei­ten. Die­se Inhal­te kön­nen viel­fäl­tig sein und rei­chen von Tex­ten über Bil­der und Musik bis hin zu Code und 3D-Model­len. Die Funk­ti­ons­wei­se basiert in der Regel auf kom­ple­xen Algo­rith­men des maschi­nel­len Ler­nens, ins­be­son­de­re auf soge­nann­ten gene­ra­ti­ven adver­s­a­ri­el­len Netz­wer­ken (GANs) oder Trans­for­mer-Model­len. Die­se Model­le wer­den mit gro­ßen Daten­men­gen trai­niert, um Mus­ter und Struk­tu­ren zu erken­nen und anschlie­ßend ähn­li­che, aber neue Inhal­te zu gene­rie­ren.

Es gibt ver­schie­de­ne Typen von gene­ra­ti­ver KI, die sich in ihren Fähig­kei­ten und Anwen­dungs­be­rei­chen unter­schei­den:

• Text­ge­ne­rie­rung: Die­se Art der KI ist in der Lage, men­schen­ähn­li­chen Text zu ver­fas­sen. Anwen­dungs­be­rei­che sind bei­spiels­wei­se die Erstel­lung von Blog­ar­ti­keln, Mar­ke­ting­tex­ten, Pro­dukt­be­schrei­bun­gen oder sogar Dreh­bü­chern. Tools wie GPT‑3 oder LaM­DA sind hier füh­rend.
• Bild­ge­ne­rie­rung: Hier erzeugt die KI Bil­der auf Basis von Text­ein­ga­ben oder ande­ren Bild­vor­la­gen. Bei­spie­le sind die Erstel­lung von foto­rea­lis­ti­schen Bil­dern, Illus­tra­tio­nen, Gra­fi­ken oder das Bear­bei­ten und Ver­bes­sern von vor­han­de­nen Bil­dern. Bekann­te Platt­for­men sind DALL‑E 2, Mid­jour­ney oder Sta­ble Dif­fu­si­on.
• Code­ge­nerie­rung: Die­se Anwen­dung gene­riert auto­ma­tisch Pro­gramm­code basie­rend auf einer Beschrei­bung der gewünsch­ten Funk­tio­na­li­tät. Dies kann die Soft­ware­ent­wick­lung beschleu­ni­gen und ver­ein­fa­chen. Bei­spie­le sind Git­Hub Copi­lot oder Tab­ni­ne.
• Musik­ge­ne­rie­rung: Die­se KI-Sys­te­me kön­nen Musik­stü­cke in ver­schie­de­nen Sti­len und Gen­res kom­po­nie­ren. Anwen­dungs­be­rei­che sind die Erstel­lung von Hin­ter­grund­mu­sik, Sound­ef­fek­ten oder die Unter­stüt­zung von Kom­po­nis­ten. Bei­spie­le sind Juke­box von Ope­nAI oder Amper Music.

Die Anwen­dungs­be­rei­che gene­ra­ti­ver KI sind viel­fäl­tig und fin­den sich in zahl­rei­chen Bran­chen:

• Con­tent-Erstel­lung: Im Mar­ke­ting und Jour­na­lis­mus wird gene­ra­ti­ve KI ein­ge­setzt, um Tex­te, Bil­der und Vide­os für Web­sei­ten, sozia­le Medi­en und ande­re Kanä­le zu erstel­len.
• Soft­ware­ent­wick­lung: Durch die auto­ma­ti­sche Gene­rie­rung von Code kön­nen Ent­wick­ler Zeit spa­ren und die Effi­zi­enz stei­gern.
• Kun­den­ser­vice: Chat­bots und vir­tu­el­le Assis­ten­ten, die auf gene­ra­ti­ver KI basie­ren, kön­nen Kun­den­an­fra­gen beant­wor­ten und per­so­na­li­sier­te Unter­stüt­zung bie­ten.
• Design: Archi­tek­ten und Desi­gner nut­zen gene­ra­ti­ve KI, um inno­va­ti­ve Ent­wür­fe zu erstel­len und zu visua­li­sie­ren.
• For­schung und Ent­wick­lung: In der Medi­zin oder Che­mie kann gene­ra­ti­ve KI bei­spiels­wei­se neue Medi­ka­men­te oder Mate­ria­li­en ent­wer­fen.

Rechtliche Grundlagen: Ein Überblick

Die Nut­zung gene­ra­ti­ver KI wirft eine Viel­zahl von recht­li­chen Fra­gen auf, die sowohl auf natio­na­ler als auch auf euro­päi­scher Ebe­ne rele­vant sind. Zu den wich­tigs­ten Rechts­vor­schrif­ten gehö­ren das Urhe­ber­recht, das Daten­schutz­recht (ins­be­son­de­re die DSGVO), das Pro­dukt­haf­tungs­ge­setz und das Wett­be­werbs­recht. Zusätz­lich ist die geplan­te KI-Ver­ord­nung der Euro­päi­schen Uni­on von gro­ßer Bedeu­tung, da sie erst­mals einen umfas­sen­den Rechts­rah­men für KI-Sys­te­me schaf­fen wird.

Das Urhe­ber­recht schützt geis­ti­ge Wer­ke wie Tex­te, Bil­der, Musik und Soft­ware. Bei der Nut­zung gene­ra­ti­ver KI stellt sich die Fra­ge, wer Urhe­ber der gene­rier­ten Inhal­te ist und wel­che Nut­zungs­rech­te beach­tet wer­den müs­sen. Grund­sätz­lich gilt, dass nur natür­li­che Per­so­nen Urhe­ber sein kön­nen. Bei von KI gene­rier­ten Inhal­ten ist die Rechts­la­ge kom­plex und hängt von den kon­kre­ten Umstän­den ab.

Das Daten­schutz­recht, ins­be­son­de­re die DSGVO, regelt die Ver­ar­bei­tung per­so­nen­be­zo­ge­ner Daten. Bei der Ent­wick­lung und Nut­zung gene­ra­ti­ver KI-Sys­te­me müs­sen die Grund­sät­ze der DSGVO ein­ge­hal­ten wer­den, wie z.B. die Daten­mi­ni­mie­rung, die Zweck­bin­dung und die Trans­pa­renz. Zudem müs­sen die Betrof­fe­nen­rech­te (z.B. Aus­kunfts­recht, Recht auf Löschung) gewahrt wer­den. Ein Über­blick über daten­schutz­recht­li­che Aspek­te beim Ein­satz von KI bie­tet die Daten­schutz­be­hör­de Baden-Würt­tem­berg in die­sem Arti­kel: Rechts­grund­la­gen im Daten­schutz beim Ein­satz von Künst­li­cher …

Das Pro­dukt­haf­tungs­ge­setz regelt die Haf­tung für Schä­den, die durch feh­ler­haf­te Pro­duk­te ver­ur­sacht wer­den. Wenn gene­ra­ti­ve KI-Sys­te­me Feh­ler ver­ur­sa­chen, die zu Schä­den füh­ren, stellt sich die Fra­ge, wer für die­se Schä­den haf­tet. Dies kann bei­spiels­wei­se der Ent­wick­ler des KI-Sys­tems, der Nut­zer oder der Anbie­ter sein.

Das Wett­be­werbs­recht soll einen fai­ren Wett­be­werb sicher­stel­len. Bei der Nut­zung gene­ra­ti­ver KI müs­sen wett­be­werbs­recht­li­che Vor­schrif­ten beach­tet wer­den, bei­spiels­wei­se das Ver­bot von irre­füh­ren­der Wer­bung oder die Ein­hal­tung von Kar­tell­ver­bo­ten.

Die KI-Ver­ord­nung (Arti­fi­ci­al Intel­li­gence Act, AIA) der Euro­päi­schen Uni­on zielt dar­auf ab, einen har­mo­ni­sier­ten Rechts­rah­men für KI-Sys­te­me zu schaf­fen. Sie klas­si­fi­ziert KI-Sys­te­me nach ihrem Risi­ko­po­ten­zi­al und legt je nach Risi­koklas­se unter­schied­li­che Anfor­de­run­gen fest. Für KI-Sys­te­me mit hohem Risi­ko, wie z.B. sol­che, die in kri­ti­schen Infra­struk­tu­ren ein­ge­setzt wer­den, gel­ten stren­ge Anfor­de­run­gen an die Trans­pa­renz, die Sicher­heit und die Über­wa­chung. Einen Arti­kel des Euro­päi­schen Par­la­ments über die ers­te Regu­lie­rung der künst­li­chen Intel­li­genz durch das KI-Gesetz fin­den Sie hier: KI-Gesetz: ers­te Regu­lie­rung der künst­li­chen Intel­li­genz | The­men …

Pflichten im Umgang mit Urheberrechten bei generativer KI

Die Nut­zung gene­ra­ti­ver KI wirft kom­ple­xe urhe­ber­recht­li­che Fra­gen auf. Wer ist der Urhe­ber eines durch KI gene­rier­ten Werks? Wel­che Nut­zungs­rech­te sind zu beach­ten, wenn man KI-gene­rier­te Inhal­te ver­wen­det? Und wie kön­nen Unter­neh­men sicher­stel­len, dass sie kei­ne Urhe­ber­rechts­ver­let­zun­gen bege­hen? Grund­sätz­lich gilt im deut­schen Urhe­ber­recht, dass nur natür­li­che Per­so­nen Urhe­ber sein kön­nen. KI-Sys­te­me selbst sind nicht rechts­fä­hig und kön­nen daher kei­ne Urhe­ber­rech­te erwer­ben. Die Fra­ge, wem die Rech­te an KI-gene­rier­ten Inhal­ten zuste­hen, hängt von der kon­kre­ten Nut­zungs­si­tua­ti­on und dem Grad der mensch­li­chen Betei­li­gung ab.

Wenn ein Mensch die KI ledig­lich als Werk­zeug nutzt und den gene­rier­ten Inhalt maß­geb­lich prägt, kann er Urhe­ber des Werks sein. In die­sem Fall muss der Nut­zer jedoch sicher­stel­len, dass er über die erfor­der­li­chen Nut­zungs­rech­te an den ver­wen­de­ten Trai­nings­da­ten ver­fügt. Vie­le KI-Model­le wer­den mit urhe­ber­recht­lich geschütz­tem Mate­ri­al trai­niert. Wer­den die­se Daten ohne ent­spre­chen­de Lizenz ver­wen­det, kann dies zu Urhe­ber­rechts­ver­let­zun­gen füh­ren. Unter­neh­men soll­ten daher sorg­fäl­tig prü­fen, wel­che Daten für das Trai­ning der KI-Model­le ver­wen­det wur­den und ob die erfor­der­li­chen Lizen­zen vor­lie­gen.

Anders sieht die Situa­ti­on aus, wenn die KI den Inhalt weit­ge­hend selbst­stän­dig gene­riert und der mensch­li­che Ein­fluss gering ist. In die­sem Fall ist die Rechts­la­ge umstrit­ten. Eini­ge Juris­ten ver­tre­ten die Auf­fas­sung, dass es sich um ein urhe­ber­rechts­frei­es Werk han­delt, da kein mensch­li­cher Urhe­ber vor­han­den ist. Ande­re sehen den­je­ni­gen als Rech­te­inha­ber, der das KI-Sys­tem betreibt oder trai­niert hat. Um Rechts­un­si­cher­hei­ten zu ver­mei­den, emp­fiehlt es sich, bei der Nut­zung von KI-gene­rier­ten Inhal­ten stets eine sorg­fäl­ti­ge Prü­fung vor­zu­neh­men und gege­be­nen­falls eine Rechts­be­ra­tung ein­zu­ho­len.

Ein häu­fi­ges Pro­blem ist die Ähn­lich­keit von KI-gene­rier­ten Inhal­ten mit bereits exis­tie­ren­den Wer­ken. Wenn die KI bei­spiels­wei­se ein Bild gene­riert, das einem urhe­ber­recht­lich geschütz­ten Foto sehr ähn­lich ist, kann dies eine Urhe­ber­rechts­ver­let­zung dar­stel­len. Unter­neh­men soll­ten daher sicher­stel­len, dass ihre KI-Sys­te­me so kon­fi­gu­riert sind, dass sie kei­ne Pla­gia­te erstel­len. Dies kann bei­spiels­wei­se durch den Ein­satz von Fil­tern oder durch die Ver­wen­dung von spe­zi­ell kura­tier­ten Trai­nings­da­ten erreicht wer­den.

Die DIHK weist dar­auf hin, dass Unter­neh­men recht­li­che und finan­zi­el­le Risi­ken im Zusam­men­hang mit gene­ra­ti­ver KI berück­sich­ti­gen soll­ten. Was Unter­neh­men beim Umgang mit gene­ra­ti­ven KI-Anwen­dun­gen … — Der Arti­kel der DIHK hebt her­vor, dass Unter­neh­men recht­li­che und finan­zi­el­le Risi­ken im Zusam­men­hang mit gene­ra­ti­ver KI berück­sich­ti­gen soll­ten.

Pra­xis­bei­spiel: Ein Unter­neh­men nutzt eine KI zur Erstel­lung von Mar­ke­ting­tex­ten. Die KI gene­riert einen Slo­gan, der einem bereits bestehen­den Slo­gan einer ande­ren Fir­ma sehr ähn­lich ist. Um eine Urhe­ber­rechts­ver­let­zung zu ver­mei­den, soll­te das Unter­neh­men den Slo­gan vor der Ver­wen­dung recht­lich prü­fen las­sen und gege­be­nen­falls abän­dern.

Datenschutzrechtliche Aspekte und die DSGVO

Die Nut­zung gene­ra­ti­ver KI unter­liegt auch den Bestim­mun­gen des Daten­schutz­rechts, ins­be­son­de­re der DSGVO. Gene­ra­ti­ve KI-Sys­te­me ver­ar­bei­ten häu­fig per­so­nen­be­zo­ge­ne Daten, sei es bei der Erstel­lung von Inhal­ten oder bei der Ana­ly­se von Nut­zer­ver­hal­ten. Unter­neh­men müs­sen sicher­stel­len, dass sie die Grund­sät­ze der DSGVO ein­hal­ten, wie z.B. die Daten­mi­ni­mie­rung, die Zweck­bin­dung und die Trans­pa­renz.

Die Daten­mi­ni­mie­rung bedeu­tet, dass nur so vie­le per­so­nen­be­zo­ge­ne Daten ver­ar­bei­tet wer­den dür­fen, wie für den jewei­li­gen Zweck erfor­der­lich sind. Bei der Ent­wick­lung und Nut­zung gene­ra­ti­ver KI-Sys­te­me soll­ten Unter­neh­men daher dar­auf ach­ten, dass sie nicht unnö­tig vie­le Daten sam­meln und ver­ar­bei­ten.

Die Zweck­bin­dung besagt, dass per­so­nen­be­zo­ge­ne Daten nur für den Zweck ver­ar­bei­tet wer­den dür­fen, für den sie erho­ben wur­den. Wenn bei­spiels­wei­se ein KI-Sys­tem zur Erstel­lung von per­so­na­li­sier­ten Pro­dukt­emp­feh­lun­gen ein­ge­setzt wird, dür­fen die gesam­mel­ten Daten nicht für ande­re Zwe­cke ver­wen­det wer­den, wie z.B. für die Erstel­lung von Nut­zer­pro­fi­len für Wer­be­zwe­cke.

Die Trans­pa­renz erfor­dert, dass die betrof­fe­nen Per­so­nen dar­über infor­miert wer­den, wel­che per­so­nen­be­zo­ge­nen Daten ver­ar­bei­tet wer­den, zu wel­chem Zweck und auf wel­cher Rechts­grund­la­ge. Unter­neh­men müs­sen ihre Daten­schutz­er­klä­run­gen ent­spre­chend anpas­sen und die Nut­zer über den Ein­satz von KI-Sys­te­men infor­mie­ren.

Zudem müs­sen Unter­neh­men die Betrof­fe­nen­rech­te wah­ren, wie z.B. das Aus­kunfts­recht, das Recht auf Berich­ti­gung, das Recht auf Löschung und das Recht auf Wider­spruch. Nut­zer haben das Recht, Aus­kunft dar­über zu ver­lan­gen, wel­che per­so­nen­be­zo­ge­nen Daten von ihnen ver­ar­bei­tet wer­den und wie die­se Daten ver­wen­det wer­den. Sie haben auch das Recht, unrich­ti­ge Daten berich­ti­gen oder löschen zu las­sen. Zudem kön­nen sie der Ver­ar­bei­tung ihrer Daten wider­spre­chen, wenn die­se auf berech­tig­ten Inter­es­sen des Unter­neh­mens beruht.

Die Daten­si­cher­heit ist ein wei­te­rer wich­ti­ger Aspekt des Daten­schutz­rechts. Unter­neh­men müs­sen geeig­ne­te tech­ni­sche und orga­ni­sa­to­ri­sche Maß­nah­men ergrei­fen, um die Sicher­heit der per­so­nen­be­zo­ge­nen Daten zu gewähr­leis­ten und sie vor unbe­fug­tem Zugriff, Ver­lust oder Zer­stö­rung zu schüt­zen. Dies kann bei­spiels­wei­se durch den Ein­satz von Ver­schlüs­se­lungs­tech­no­lo­gien, die Imple­men­tie­rung von Zugriffs­kon­trol­len oder die Durch­füh­rung von regel­mä­ßi­gen Sicher­heits­au­dits erreicht wer­den.

Die Daten­schutz­be­hör­de Baden-Würt­tem­berg bie­tet einen Über­blick über daten­schutz­recht­li­che Aspek­te beim Ein­satz von KI. Rechts­grund­la­gen im Daten­schutz beim Ein­satz von Künst­li­cher … — Die­ser Arti­kel der Daten­schutz­be­hör­de Baden-Würt­tem­berg gibt einen Über­blick über daten­schutz­recht­li­che Aspek­te beim Ein­satz von KI.

Pra­xis­bei­spiel: Ein Unter­neh­men setzt einen Chat­bot ein, der auf gene­ra­ti­ver KI basiert und Kun­den­an­fra­gen beant­wor­tet. Um die DSGVO ein­zu­hal­ten, muss das Unter­neh­men die Kun­den über den Ein­satz des Chat­bots infor­mie­ren, ihnen die Mög­lich­keit geben, ihre Daten berich­ti­gen oder löschen zu las­sen, und die Daten­über­tra­gung ver­schlüs­seln.

Haftung für Fehler und Schäden durch generative KI

Die Haf­tungs­fra­ge im Zusam­men­hang mit Feh­lern oder Schä­den, die durch gene­ra­ti­ve KI ver­ur­sacht wer­den, ist kom­plex und noch nicht abschlie­ßend geklärt. Grund­sätz­lich stellt sich die Fra­ge, wer für die Schä­den haf­tet: der Ent­wick­ler des KI-Sys­tems, der Nut­zer oder der Anbie­ter?

Wenn der Feh­ler auf einen Kon­struk­ti­ons- oder Pro­gram­mier­feh­ler des KI-Sys­tems zurück­zu­füh­ren ist, kann der Ent­wick­ler des Sys­tems haft­bar gemacht wer­den. Dies ist ins­be­son­de­re dann der Fall, wenn der Ent­wick­ler sei­ne Sorg­falts­pflich­ten ver­letzt hat, z.B. indem er das Sys­tem nicht aus­rei­chend getes­tet oder Sicher­heits­lü­cken nicht beho­ben hat.

Der Nut­zer des KI-Sys­tems kann eben­falls haft­bar gemacht wer­den, wenn er das Sys­tem unsach­ge­mäß ver­wen­det oder die Ergeb­nis­se der KI nicht aus­rei­chend über­prüft. Bei­spiels­wei­se kann ein Unter­neh­men haft­bar gemacht wer­den, wenn es eine KI zur Erstel­lung von feh­ler­haf­ten Pro­dukt­be­schrei­bun­gen ein­setzt und dadurch Schä­den bei den Kun­den ver­ur­sacht.

Der Anbie­ter des KI-Sys­tems kann haft­bar gemacht wer­den, wenn er das Sys­tem als feh­ler­frei bewor­ben hat, obwohl er wuss­te oder hät­te wis­sen müs­sen, dass es Feh­ler auf­wei­sen kann. Zudem kann der Anbie­ter haft­bar gemacht wer­den, wenn er sei­nen Infor­ma­ti­ons­pflich­ten nicht nach­ge­kom­men ist und die Nut­zer nicht aus­rei­chend über die Risi­ken der Nut­zung des KI-Sys­tems auf­ge­klärt hat.

Um Haf­tungs­ri­si­ken zu mini­mie­ren, soll­ten Unter­neh­men fol­gen­de Maß­nah­men ergrei­fen:

• Sorg­fäl­ti­ge Aus­wahl des KI-Sys­tems: Vor der Ein­füh­rung eines KI-Sys­tems soll­ten Unter­neh­men sorg­fäl­tig prü­fen, ob das Sys­tem zuver­läs­sig und sicher ist. Sie soll­ten sich über die Leis­tungs­fä­hig­keit des Sys­tems infor­mie­ren, Refe­ren­zen ein­ho­len und gege­be­nen­falls unab­hän­gi­ge Tests durch­füh­ren las­sen.
• Regel­mä­ßi­ge Über­prü­fung der Ergeb­nis­se: Unter­neh­men soll­ten die Ergeb­nis­se der KI-Sys­te­me regel­mä­ßig über­prü­fen, um Feh­ler oder Unge­nau­ig­kei­ten früh­zei­tig zu erken­nen und zu behe­ben. Dies ist ins­be­son­de­re dann wich­tig, wenn die KI in kri­ti­schen Berei­chen ein­ge­setzt wird, wie z.B. im Gesund­heits­we­sen oder im Finanz­we­sen.
• Trans­pa­ren­te Kom­mu­ni­ka­ti­on: Unter­neh­men soll­ten trans­pa­rent dar­über infor­mie­ren, dass sie KI-Sys­te­me ein­set­zen und wie die­se Sys­te­me funk­tio­nie­ren. Sie soll­ten die Nut­zer über die Risi­ken der Nut­zung der KI-Sys­te­me auf­klä­ren und ihnen die Mög­lich­keit geben, Feed­back zu geben oder Beschwer­den ein­zu­rei­chen.
• Abschluss einer Haft­pflicht­ver­si­che­rung: Unter­neh­men soll­ten eine Haft­pflicht­ver­si­che­rung abschlie­ßen, die Schä­den abdeckt, die durch den Ein­satz von KI-Sys­te­men ver­ur­sacht wer­den.

Die Pro­dukt­haf­tung greift, wenn durch ein feh­ler­haf­tes Pro­dukt ein Scha­den ent­stan­den ist. Dies kann auch gene­ra­ti­ve KI betref­fen.
Pra­xis­bei­spiel: Ein Unter­neh­men setzt eine KI zur Dia­gno­se von Krank­hei­ten ein. Die KI stellt eine Fehl­dia­gno­se, auf­grund derer der Pati­ent falsch behan­delt wird und einen Scha­den erlei­det. In die­sem Fall kann das Unter­neh­men haft­bar gemacht wer­den, wenn es sei­ne Sorg­falts­pflich­ten ver­letzt hat, z.B. indem es die KI nicht aus­rei­chend vali­diert oder die Ergeb­nis­se der KI nicht von einem Arzt über­prü­fen las­sen hat.

Ethi­sche Über­le­gun­gen bei der Nut­zung gene­ra­ti­ver KI

Neben den recht­li­chen Pflich­ten sind auch ethi­sche Über­le­gun­gen bei der Nut­zung gene­ra­ti­ver KI von ent­schei­den­der Bedeu­tung. Unter­neh­men ste­hen in der Ver­ant­wor­tung, sicher­zu­stel­len, dass ihre KI-Sys­te­me nicht nur geset­zes­kon­form sind, son­dern auch ethi­schen Stan­dards ent­spre­chen. Dies umfasst The­men wie Trans­pa­renz, Fair­ness, Ver­ant­wort­lich­keit und die Ver­mei­dung von Bias und Dis­kri­mi­nie­rung.

Trans­pa­renz bedeu­tet, dass Unter­neh­men offen­le­gen soll­ten, wie ihre KI-Sys­te­me funk­tio­nie­ren, wel­che Daten sie ver­wen­den und wie Ent­schei­dun­gen getrof­fen wer­den. Nut­zer soll­ten in der Lage sein, nach­zu­voll­zie­hen, war­um ihnen bestimm­te Inhal­te ange­zeigt wer­den oder war­um eine KI eine bestimm­te Emp­feh­lung gibt. Dies för­dert das Ver­trau­en und ermög­licht es den Nut­zern, infor­mier­te Ent­schei­dun­gen zu tref­fen.

Fair­ness bedeu­tet, dass KI-Sys­te­me nicht zu unge­rech­ten oder dis­kri­mi­nie­ren­den Ergeb­nis­sen füh­ren dür­fen. Dies ist beson­ders wich­tig in Berei­chen wie der Per­so­nal­be­schaf­fung oder der Kre­dit­ver­ga­be, wo KI-Sys­te­me poten­zi­ell zu Benach­tei­li­gun­gen bestimm­ter Per­so­nen­grup­pen füh­ren kön­nen. Unter­neh­men soll­ten ihre KI-Sys­te­me sorg­fäl­tig prü­fen, um sicher­zu­stel­len, dass sie kei­ne Bias ent­hal­ten und dass sie alle Nut­zer gleich behan­deln.

Ver­ant­wort­lich­keit bedeu­tet, dass Unter­neh­men die Ver­ant­wor­tung für die Aus­wir­kun­gen ihrer KI-Sys­te­me über­neh­men müs­sen. Wenn ein KI-Sys­tem einen Feh­ler ver­ur­sacht oder Scha­den anrich­tet, müs­sen die Unter­neh­men in der Lage sein, den Feh­ler zu behe­ben und die Schä­den zu kom­pen­sie­ren. Dies erfor­dert eine kla­re Ver­ant­wor­tungs­struk­tur und ein effek­ti­ves Risi­ko­ma­nage­ment.

Die Ver­mei­dung von Bias und Dis­kri­mi­nie­rung ist eine beson­de­re Her­aus­for­de­rung bei der Ent­wick­lung und Nut­zung gene­ra­ti­ver KI. KI-Sys­te­me wer­den mit gro­ßen Daten­men­gen trai­niert, die poten­zi­ell Vor­ur­tei­le und Ste­reo­ty­pen ent­hal­ten kön­nen. Wenn die­se Vor­ur­tei­le in das KI-Sys­tem ein­flie­ßen, kann dies zu dis­kri­mi­nie­ren­den Ergeb­nis­sen füh­ren. Unter­neh­men soll­ten daher sorg­fäl­tig dar­auf ach­ten, wel­che Daten sie für das Trai­ning ihrer KI-Sys­te­me ver­wen­den und wie sie Bias erken­nen und besei­ti­gen kön­nen.

Um sicher­zu­stel­len, dass ihre KI-Sys­te­me ethisch ver­tret­bar ein­ge­setzt wer­den, soll­ten Unter­neh­men fol­gen­de Maß­nah­men ergrei­fen:

• Ent­wick­lung ethi­scher Richt­li­ni­en: Unter­neh­men soll­ten kla­re ethi­sche Richt­li­ni­en für die Ent­wick­lung und Nut­zung von KI-Sys­te­men fest­le­gen.
• Schu­lung der Mit­ar­bei­ter: Die Mit­ar­bei­ter soll­ten über ethi­sche Aspek­te der KI auf­ge­klärt und geschult wer­den.
• Ein­bin­dung von Exper­ten: Bei der Ent­wick­lung und Nut­zung von KI-Sys­te­men soll­ten Exper­ten für Ethik und Daten­schutz hin­zu­ge­zo­gen wer­den.
• Regel­mä­ßi­ge Über­prü­fung: Die KI-Sys­te­me soll­ten regel­mä­ßig auf ethi­sche Risi­ken über­prüft wer­den.
• Feed­back von Nut­zern: Die Nut­zer soll­ten die Mög­lich­keit haben, Feed­back zu geben und Beden­ken zu äußern.

Indem Unter­neh­men ethi­sche Über­le­gun­gen in den Mit­tel­punkt ihrer KI-Stra­te­gie stel­len, kön­nen sie das Ver­trau­en der Nut­zer gewin­nen und sicher­stel­len, dass gene­ra­ti­ve KI zum Wohl der Gesell­schaft ein­ge­setzt wird.

Fazit

Die Nut­zung gene­ra­ti­ver KI bie­tet enor­me Chan­cen, birgt aber auch erheb­li­che recht­li­che und ethi­sche Risi­ken. Unter­neh­men müs­sen sich die­ser Risi­ken bewusst sein und ent­spre­chen­de Maß­nah­men ergrei­fen, um sie zu mini­mie­ren. Dazu gehört die Ein­hal­tung der gel­ten­den Geset­ze und Vor­schrif­ten, ins­be­son­de­re des Urhe­ber­rechts, des Daten­schutz­rechts und des Pro­dukt­haf­tungs­rechts. Zudem müs­sen Unter­neh­men ethi­sche Grund­sät­ze beach­ten und sicher­stel­len, dass ihre KI-Sys­te­me trans­pa­rent, fair und ver­ant­wor­tungs­voll ein­ge­setzt wer­den. Die recht­li­che Regu­lie­rung der KI befin­det sich noch in der Ent­wick­lung, ins­be­son­de­re durch die KI-Ver­ord­nung der Euro­päi­schen Uni­on. Es ist daher wich­tig, sich kon­ti­nu­ier­lich über die aktu­el­len Ent­wick­lun­gen zu infor­mie­ren und die Nut­zung gene­ra­ti­ver KI ver­ant­wor­tungs­voll zu gestal­ten, um das Poten­zi­al die­ser Tech­no­lo­gie voll aus­zu­schöp­fen und gleich­zei­tig Scha­den zu ver­mei­den.

Wei­ter­füh­ren­de Quel­len

• Bitkom-Leitfaden-Generative-KI-im-Unternehmen.pdf – Der Bit­kom-Leit­fa­den bie­tet eine Richt­li­nie zur Nut­zung gene­ra­ti­ver KI im Unter­neh­men.
• Ori­en­tie­rungs­hil­fe – Die­se Ori­en­tie­rungs­hil­fe der DSK bie­tet einen Über­blick über daten­schutz­recht­li­che Kri­te­ri­en für die daten­schutz­kon­for­me Nut­zung von KI-Anwen­dun­gen.