Der Mensch als letzte Instanz – reicht das?
Die Ausgangslage: offene Geschäftsführung, gespaltene Belegschaft
Die Gaming-Branche ist schnelllebig, und KI stellt sie gerade vor neue Herausforderungen. Die Geschäftsführung des beratenen Unternehmens sieht KI als Zukunftstechnologie: Man dürfe den Anschluss nicht verlieren, wolle die Chancen nutzen und zugleich einen verantwortungsvollen Umgang finden. Ihr ist aber auch bewusst, dass das Thema aus Sicht der Beschäftigten komplexer ist, als es zunächst scheint. Gerade in Kreativbranchen sind die Risiken generativer KI deutlich sichtbar.
Um den KI-Einsatz zu regeln, verhandelt der Betriebsrat mit der Geschäftsführung eine Rahmenbetriebsvereinbarung. ZUKIPRO unterstützt ihn dabei.
Eine Belegschaft, drei Haltungen
- Die Storyteller, die Spielaufbau und Handlung entwickeln, lehnen KI strikt ab. Sie befürchten, dass KI ihnen die Arbeit komplett abnimmt. Die Geschichten würden schlechter, für das Unternehmen könnte sich das trotzdem rechnen.
- Das Character Design, zuständig für Entwicklung und Gestaltung der Figuren, lehnt generative KI aus moralischen und ethischen Gründen ab, weil sie aus Sicht der Beschäftigten immer mit Urheberrechtsverletzungen einhergeht.
- Die Tester sehen in KI eine Chance beim Testen neuer Spiele und erhoffen sich eine Arbeitserleichterung.
Bei den ersten beiden Gruppen spielt auch das Berufsethos mit: Niemand will austauschbare KI-Geschichten schreiben oder Standardcharaktere entwerfen. Das Bild dürfte vielen Betrieben bekannt vorkommen: Je nach Tätigkeit wird KI als Bedrohung oder als Entlastung erlebt.
Der Ansatz „HumanTouch“ und seine Grenzen
Ein erstes Zwischenergebnis ist das Konzept „HumanTouch“, die menschliche Nachbearbeitung. Wird eine KI-Anwendung eingesetzt, muss das Ergebnis von Hand überarbeitet werden. Zudem soll gekennzeichnet werden, dass KI genutzt wurde. Auch der AI Act der EU sieht hierzu Transparenzpflichten vor.
Im Detail zeigte sich schnell, wie schwer sich „HumanTouch“ im Arbeitsalltag fassen lässt. Wie lässt sich sicherstellen, dass KI-generierte Inhalte tatsächlich von einem Menschen überarbeitet wurden? Und was macht das Menschliche an einem kreativen Produkt überhaupt aus? Die Diskussion wurde zunehmend philosophisch und stieß an ihre Grenzen. Weil die Betriebsvereinbarung noch nicht abgeschlossen ist, bleibt der Fall hier offen. Die Frage dahinter betrifft jedoch viele Unternehmen.
Warum „Der Mensch entscheidet“ oft nicht genügt
Menschliche Nachbearbeitung und menschliche Letztentscheidung sollen schützen. Auch im AI Act spielt das Thema eine wichtige Rolle. Doch beide bewegen sich auf einem schmalen Grat zwischen echtem Schutz und formaler Hülle. In vielen Branchen wird auf der menschlichen Letztentscheidung bestanden, obwohl sie in der Praxis kaum umsetzbar ist.
Ein Beispiel ist die automatisierte Fallbearbeitung bei Versicherungen. Ein KI-System prüft, ob ein Schaden übernommen wird, und gibt einen Vorschlag aus. Für die Sachbearbeitung ist oft nicht nachvollziehbar, wie das System zu diesem Ergebnis kommt. Zeit für eine eigene Prüfung fehlt vermutlich, und wer vom Vorschlag abweicht, muss sich womöglich dafür rechtfertigen. Hinzu kommt der sogenannte Automation Bias: Menschen schreiben Maschinen eine vermeintliche Objektivität zu und folgen deshalb eher der Entscheidung des Systems.
Fünf Fragen, bevor Sie KI einführen
Aus Sicht der Autorin sollte das Prinzip der menschlichen Letztentscheidung deshalb nicht unhinterfragt übernommen werden. Damit Kontrolle tatsächlich wirkt, sollten Sie vorab klären:
- Können Ihre Beschäftigten nachvollziehen, wie die KI zu ihrem Ergebnis kommt, und haben sie die Ressourcen, es zu bewerten?
- Haben sie genug Zeit, das Ergebnis zu prüfen? Ohne Zeit bleibt die Kontrolle auf dem Papier.
- Können sie anders entscheiden als das System, ohne sich rechtfertigen zu müssen?
- Ist klar, dass die Verantwortung beim Unternehmen liegt? Haftungs- und Verantwortungsfragen dürfen nicht auf einzelne Beschäftigte übertragen werden.
- Ist festgelegt, ob und wie der KI-Einsatz gekennzeichnet wird?
Fazit: langsamer, aber unter Kontrolle
Konsequent gedacht heißt das: Der Mensch entscheidet vor jeder Aktion, ob und wie KI eingesetzt wird. Der Vorteil ist, dass Wissen und Kontrolle beim Menschen bleiben. Der Nachteil ist, dass das Vorgehen langsam ist und sich nur schwer skalieren lässt. Die Frage ist nur: Ist das wirklich ein Nachteil?
Zukunftszentrum ZUKIPRO
Das geförderte Projekt ZUKIPRO – Zukunftszentrum für menschzentrierte KI in der Produktionsarbeit – bietet kleinen und mittleren Unternehmen in Hessen kostenlos maßgeschneiderte Informations-, Beratungs- und Qualifizierungsprogramme rund um den Einsatz von KI im Arbeitsalltag. Gemeinsam mit Ihnen ermitteln die Ansprechpartner von ZUKIPRO den Bedarf und können Sie bei Ihren KI-Projekten auch mit einer tiefergehenden Beratung unterstützen.
Isabelle Puccini
Isabelle Puccini ist Technologieberaterin bei der BTQ Kassel im ver.di Bildungswerk Hessen. Die Soziologin berät im Projekt ZUKIPRO zu Künstlicher Intelligenz und beschäftigt sich mit Plattformökonomie und algorithmischer Steuerung. Ihr Anliegen: KI soll zum Nutzen der Menschen eingesetzt werden.
Quellen
- Ein Gastbeitrag von Isabelle Puccini, BTQ Kassel im ver.di Bildungswerk Hessen e.V. (ZUKIPRO)
- Bildquellen: KI generiert, Isabelle Puccini
