Zehn Aspekte für Unternehmen beim Einsatz von ChatGPT & KI-Anwendungen

  1. Daten­schutz

Die Daten­ver­ar­bei­tung von ChatGPT ist bis­lang recht intrans­pa­rent. Es ist nicht klar, auf wel­cher Recht­grund­lage per­so­nen­be­zo­gene Daten in die USA über­mit­telt wer­den. Ebenso wenig gibt es eine Rechts­grund­lage für die Ver­ar­bei­tung und Spei­che­rung per­so­nen­be­zo­ge­ner Daten auf Ser­vern in den USA. Aus die­sem Grund sollte beim Ein­satz gene­ra­ti­ver KI-​​Systeme stets geprüft wer­den, wo die Daten­ver­ar­bei­tung statt­fin­det. Auf die Ein­gabe und Nut­zung von per­so­nen­be­zo­ge­nen und auch ande­ren sen­si­blen bezie­hungs­weise ver­trau­li­chen Daten sollte bei der Anwen­dung gene­ra­ti­ver KI-​​Systeme gene­rell ver­zich­tet wer­den. Das Glei­che gilt für Daten Drit­ter, die in ande­ren Zusam­men­hän­gen bezo­gen und/​oder ver­ar­bei­tet wur­den. Ins­ge­samt ist Nut­zen­den zu emp­feh­len, sorg­fäl­tig abzu­wä­gen, wel­che Infor­ma­tio­nen in die Sys­teme ein­ge­speist wer­den, da sie genutzt wer­den kön­nen, um die KI zu trai­nie­ren und zu ver­bes­sern. Seit Kur­zem kön­nen ChatGPT-​​Nutzende über eine Opting-​​out Funk­tion ent­schei­den, dass ihre Daten nicht mehr zum Trai­nie­ren der KI ein­ge­setzt wer­den.

  1. Daten­qua­li­tät

Arbeits­er­geb­nisse von KI-​​Tools hän­gen stark von der Qua­li­tät, der Quan­ti­tät und Gewich­tung der ein­zel­nen Daten­sätze ab, mit denen sie trai­niert wer­den. Gene­ra­tive KI kann mög­li­cher­weise unge­naue, irre­füh­rende oder nicht aktu­elle Aus­sa­gen gene­rie­ren. Bei vie­len gene­ra­ti­ven KI-​​Systemen ist nicht trans­pa­rent, wel­che Daten­quel­len genutzt wer­den und wel­cher Mei­nungs­schwer­punkt dabei reprä­sen­tiert wird. Inhalte und Ant­wor­ten kön­nen einem Bias unter­lie­gen. Die Zuver­läs­sig­keit und Objek­ti­vi­tät des Out­puts zum aktu­el­len Zeit­punkt soll­ten daher stets hin­ter­fragt wer­den.

  1. Geis­ti­ges Eigen­tum

Daten, mit denen die KI gefüt­tert wurde, kön­nen urhe­ber­recht­lich geschützt sein – zum Bei­spiel Text­bau­steine, Begriffe oder Bil­der. Dadurch stellt der KI-​​generierte Out­put unter Umstän­den eine Urhe­ber­rechts­ver­let­zung dar. Die Ver­viel­fäl­ti­gung kann straf­bar sein. Inso­fern ist bei von KI gene­rier­tem Out­put Vor­sicht gebo­ten. Die Ver­wen­dung die­ses Out­puts für die Kom­mu­ni­ka­tion nach außen ist dabei beson­ders ris­kant.

  1. Trans­pa­renz

Unter­neh­men wird emp­foh­len, ihren Ein­satz von gene­ra­ti­ven KI-​​Modellen trans­pa­rent zu machen, ein­schließ­lich der Infor­ma­tion, in wel­chen Abläu­fen sie zum Ein­satz kom­men. Dies kann dazu bei­tra­gen, Ver­trauen bei Kun­den, Mit­ar­bei­ten­den und ande­ren Sta­ke­hol­dern zu stär­ken.

  1. Haf­tung und Risi­ko­ma­nage­ment

Unter­neh­men soll­ten mög­li­che recht­li­che und finan­zi­elle Risi­ken im Zusam­men­hang mit dem Ein­satz von gene­ra­ti­ver KI berück­sich­ti­gen. Dazu gehört auch die Klä­rung der Haf­tungs­frage im Falle von Feh­lern oder Schä­den, die durch die Nut­zung der KI ver­ur­sacht wer­den.

  1. Mensch­li­che Über­prü­fung

Unter­neh­men soll­ten sicher­stel­len, dass KI-​​generierte Inhalte von einem Men­schen über­prüft wer­den– ins­be­son­dere in Situa­tio­nen, in denen eine Fehl­aus­sage schwer­wie­gende Fol­gen haben könn­ten.

  1. Mit­ar­bei­tende schu­len

Es ist wich­tig, dass Mit­ar­bei­tende sen­si­bi­li­siert wer­den, wie gene­ra­tive KI-​​Anwendungen funk­tio­nie­ren und wie sie diese in die Arbeit inte­griert wer­den kön­nen. Dabei soll­ten auch recht­li­che The­men wie Daten­schutz sowie ethi­sche Aspekte dis­ku­tiert wer­den, damit Mit­ar­bei­tende die Anwen­dun­gen auf ver­ant­wor­tungs­volle Weise nut­zen. Auf­grund der rasan­ten tech­no­lo­gi­schen Ent­wick­lungs­ge­schwin­dig­keit soll­ten Schu­lun­gen regel­mä­ßig aktua­li­siert wer­den, um sicher­zu­stel­len, dass die Mit­ar­bei­ten­den auf dem neu­es­ten Stand sind.

  1. Ethi­sche Über­le­gun­gen

Unter­neh­men soll­ten die poten­zi­el­len Aus­wir­kun­gen ihres Ein­sat­zes von gene­ra­ti­ver KI auf ver­schie­dene Sta­ke­hol­der wie Kun­den, Mit­ar­bei­tende und die Gesell­schaft als Gan­zes berück­sich­ti­gen. Es sollte sicher­ge­stellt wer­den, dass die Nut­zung im Ein­klang mit den ethi­schen Prin­zi­pien des Unter­neh­mens steht.

  1. Coding

Falls Unter­neh­men gene­ra­tive KI im Bereich Pro­gram­mie­rung und Coding ein­set­zen, soll­ten sie sich zuvor mit der Syn­tax und den Befeh­len des Tools ver­traut machen und die Erklä­run­gen gründ­lich lesen. Feh­ler im Code kön­nen sich auf die Per­for­mance, Funk­tio­na­li­tät und Sicher­heit der Anwen­dun­gen aus­wir­ken.

  1. Plugins

Seit Anfang April ermög­licht das hin­ter ChatGPT ste­hende Unter­neh­men OpenAI über neue Plugins die direkte Ein­bin­dung von ChatGPT in Unter­neh­mens­sys­teme. So kön­nen bei­spiels­weise (Echtzeit-)Datensätze von Unter­neh­men über Schnitt­stel­len gezielt durch­sucht wer­den oder Auf­ga­ben von der KI wahr­ge­nom­men wer­den, zum Bei­spiel die Buchung von Rei­sen. Zwar sind die Plugin-​​Features aktu­ell noch sehr begrenzt, KI-​​Experten rech­nen jedoch damit, dass mit­tel­fris­tig ein eige­nes Öko­sys­tem ähn­lich dem Apple App-​​Store ent­ste­hen könnte. Auch bei der Nut­zung von KI über sol­che Plugins soll­ten sich inter­es­sierte Unter­neh­men unbe­dingt inten­siv mit Fra­gen zu Daten­schutz, Urhe­ber­recht und Daten­si­cher­heit aus­ein­an­der­set­zen.

Quelle: DIHK

Sie benö­ti­gen Unter­stüt­zung?

IHK Hes­sen inno­va­tiv ist Part­ner des Pro­jekts ZuKI­Pro, das kos­ten­frei Bera­tung und Schu­lun­gen zu KI bie­tet. Ihre Bera­ter von IHK Hes­sen inno­va­tiv hel­fen gerne wei­ter und stel­len bei Bedarf nütz­li­che Kon­takte für Sie her.