ChatGPT und künstliche Intelligenz

Victoria Riess zu Chancen und Herausforderungen generativer künstlicher Intelligenz für Aufsichtsrat und Corporate Governance in Aufsichtsrat aktuell

ChatGPT von OpenAI ist schneller auf über eine Million Nutzer angewachsen als viele der dominierenden Tech-Apps und -Plattformen des letzten Jahrzehnts. Die generative künstliche Intelligenz (KI) baut als das „nächste große Ding“ der Technik auf jahrzehntelangem maschinellem Lernen auf, das bereits in Geschäftsprozesse integriert ist. Doch was sind die Chancen und Herausforderungen der KI-Einführung für den Aufsichtsrat und die Corporate Governance?

1. Die Chance – Warum ChatGPT die Spielregeln der KI verändern wird

Was heute im Bereich der KI geschieht, ist die Beschleunigung von Technologieprozessen, die bereits seit bis zu zwei Jahrzehnten in einer Vielzahl von Unternehmensfunktionen eingesetzt werden, von der Softwareentwicklung bis hin zu Finanzen, Betrieb, Recht, Logistik und Kreativität. Beiräte mit Mandaten aus allen Branchen von Einzelhandel, Medien, Recht, Landwirtschaft bis hin zur Logistik berichten von zahlreichen Beispielen, wie KI bereits in effizientere Geschäftsprozesse eingebettet ist.
Der Markt nimmt die neuesten KI-Fortschritte eindeutig ernst, vielleicht nirgendwo deutlicher als Anfang Februar 2023 in der Schlacht zwischen Microsoft und Google über konkurrierende KI für Suchmaschinen. Die KI wird alle Branchen verändern, deshalb muss jeder darüber nachdenken, nicht nur in Data Science. Bei allem, was Unternehmen tun, werden sie über verstärkende Tools verfügen, die sich in den nächsten drei bis zehn Jahren als Grundlage für alles, was sie tun, durchsetzen werden. Bei der generativen KI und der KI im weiteren Sinn geht es um viel mehr als nur um eine neue Ära der Internetsuche.
Im Folgenden sind einige der Vorteile und Risiken aufgeführt, an die Beiräte denken müssen, wenn Topmanager:innen ihrer Mandatsunternehmen generative KI in die Geschäftsabläufe sowie in die Dienstleistungen und Produkte für Verbraucher:innen integrieren – wobei viele von ihnen KI bereits eingeführt haben.(1)

1.1. Vom Meistern einer Aufgabe durch KI zur Beherrschung aller Aufgaben

Viele KI-Fortschritte der letzten Jahrzehnte haben gezeigt, dass Rechenleistung für die Beherrschung einer einzigen komplexen Aufgabe eingesetzt werden kann, z.B. für ein Schachspiel oder einen Netflix- oder TikTok-Empfehlungsalgorithmus. Die Lektion von ChatGPT ist in einer wichtigen Hinsicht anders: Sie definiert die Grenzen dessen, was eine Maschine lernen kann, neu. Man kann sogar davon sprechen, dass eine weitere industrielle Revolution im Gange ist.

Die Deep-Learning-Modelle, die derzeit entwickelt und auf den Markt gebracht werden, haben Anwendungsfälle, die letztlich alle Sektoren und alle Funktionsteams betreffen, die heute Aufgaben manuell erledigen.

Um es auf den Punkt zu bringen, ist das Beispiel der Aktienanalyse beim Mandaten einer Beirätin zu nennen. Das Topmanagement in diesem Unternehmen verwendet ChatGPT im Finanzbereich. Dazu wählt das Unternehmen 5.000 Bilanzen aus, liest sie mit ChatGPT innerhalb von Sekunden, kann alle Finanzinformationen extrahieren, einen Risikoscore berechnen und eine Entscheidung über das Risiko eines Portfolios treffen.

Auch in der Kreativwirtschaft hat das Niveau der Ausgereiftheit und der Lösungen, die man lösen kann, wenn man Deep-Learning-Sprachmodelle wie ChatGPT trainieren kann, tiefgreifende Auswirkungen auf funktionale und kreative Arbeitsplätze. Während die traditionelle KI nur Probleme in stark analytischen Bereichen gelöst hat, bringt diese neue generative KI diese Fähigkeiten zu jedem/jeder Mitarbeiter:in in der Kreativwirtschaft und nicht nur den Data Scientists – die „Demokratisierung von KI“.

1.2. ChatGPT wird Arbeitsplätze kosten, aber auch Arbeitsplätze schaffen

Während das klassische Argument gegen KI lautet, dass sie Arbeitsplätze vernichten wird, verfechten Beiräte aus verschiedenen Branchen seit Jahren die Meinung, dass dies nicht der Fall sein und KI repetitive oder banale Aufgaben übernehmen wird, die Menschen gar nicht erst erledigen sollten, sodass Menschen wichtigere Aufgaben übernehmen können. Allerdings gibt es auch einige Beispiele für Arbeitsplatzverluste.

Beispielsweise wurden die manuellen Laborant:innen, die sich mit Mikroskopen und Bildern abmühen, bereits in den letzten zehn Jahren ersetzt. Bei Anwält:innen und Buchhalter:innen zeichnet sich ab, dass die KI im Moment nicht die Anwält:innen ersetzen wird, sondern dass jene, die KI nutzen, die Anwält:innen ersetzen werden.

Im Technologiesektor zeigt sich, dass Experimente, die vor vier Jahren mit generativer KI für Serviceanfragen durchgeführt wurden und diese dazu geführt haben, dass etwa 89% der ungeplanten Serviceanfragen des Unternehmens jetzt völlig autonom bearbeitet werden. Da sich die Reaktion auf diese Front-End-Interaktion im Laufe der Zeit verbessert hat, gab es auch keine Fluktuation im Team.

1.3. Der Einzelhandel baut auf die vorhandene KI-Intelligenz der Geschäfte

Im Einzelhandel zeigt sich, dass aktuelle Technologien wie die Automatisierung von Roboterprozessen und Anwendungen des maschinellen Lernens im Bereich der Prognosen Bausteine sind, die bereits in fast jeder Branche im Einsatz sind. Sie zeigen, dass die nächste Stufe der KI nicht darauf ausgerichtet ist, Arbeitsplätze zu ersetzen.

Jeder Beirat hat den tiefen Wunsch aus betrieblicher und finanzieller Sicht, effizienter zu werden, damit die Kund:innen bekommen, was sie wollen. Was generative KI leistet, ist, dass sie dem Topmanagement wirklich hilft, dessen maschinelles Lernen auf die n-te Stufe der endlichen Stufe zu bringen. D.h. generative KI hilft, viel schneller zu einer vorgefertigten Antwort zu kommen, bei der man nicht für jede einzelne Sache alle Modelle mit seinen eigenen Daten trainieren muss.

Das kann bedeuten, dass KI die besten Standorte für Einzelhandelsgeschäfte identifiziert und den Versand von Artikeln an die Geschäfte optimiert, ohne dass ein Data Scientist bei jedem Schritt des Prozesses dabei sein muss.

Wenn die generative KI die Data Scientists und Expert:innen für maschinelles Lernen von der Schulung der Technologie bei jedem Schritt befreien kann und nur auf das „Inkrementelle“ achtet, wird es immense Produktivitätsverbesserungen im Einzelhandel geben.

Diese intelligenten Maschinen können ohne Investitionen, ohne kostspielige Investitionsentscheidungen, Top Executives dabei helfen, zu verstehen, was das Ergebnis sein könnte und dieses auf einige wenige Auswahlmöglichkeiten eingrenzen, im Gegensatz zu einer unendlichen Anzahl an Auswahlmöglichkeiten. Darin liegt die wahre Stärke.

2. Die Herausforderungen der generativen KI

Es gibt beim Setzen von Impulsen für die Nutzung generativer KI in der unternehmensinternen Diskussion aber auch ernstzunehmende Herausforderungen und Risiken für den Beirat:(2)

• Fehlinformationen oder einfach nur ungenaue Informationen, die bereits von KI produziert werden;
• Rauschen in den Daten, auch bekannt als „junk science“, das Unternehmen in kostspielige Sackgassen führen kann;
• Voreingenommenheit;
• Bedrohung menschlicher Arbeitsplätze;
• Probleme im Zusammenhang mit der Einwilligung, wenn Menschen mit KI sprechen und den Unterschied nicht mehr erkennen können;
• Urheberrechtsfragen.

2.1. Ein Wilder Westen beim Urheberrecht von Konsumgütern ist denkbar

Konsumgüter sind ein Bereich, in dem Urheberrechtsfragen häufiger und ohne Präzedenzfall beim Beirat auftauchen könnten, und zwar aufgrund der Basisnatur dessen, was derzeit geschieht.(3)

In der jüngeren Vergangenheit wurden Produktentwicklung und Technologie integriert, um Kundenerlebnisse zu schaffen, jetzt geschieht es aber, dass kreative Leute Produkte wie DALL-E und Midjourney – zwei beliebte generative KI-Kunstprogramme – nutzen, um sich bei der Produktentwicklung in der Konsumgüterindustrie inspirieren zu lassen.

Die positive Seite ist, dass es eine großartige Möglichkeit ist, den kreativen Prozess in Gang zu bringen, um KI-gesteuerte Moodboards und ähnliche Dinge zu erstellen, wenn sie neue Produkte entwickeln. Aber die Kehrseite der Medaille ist, dass dieser ganze IP-Aspekt, das Eigentum am geistigen Eigentum und wie es ChatGPT und künstliche Intelligenz sich entwickelt, der heikle Teil der Sache für den Beirat ist.

2.2. Einverständniserklärung bei der Nutzung generativer KI ist nicht klar

In den Nachrichtenmedien wurde viel über die Befürchtung berichtet, dass Fehlinformationen noch effektiver werden, und in der akademischen Welt wird befürchtet, dass Studierende neue KI-Tools zum Schummeln verwenden und der Betrug nicht aufgedeckt werden könnte. Im Beirat wird jedoch auch eine andere Form des Betrugs als Risiko bei der Einführung von Technologien gesehen.

Beiräte in der Gesundheitsbranche befürchten, dass Marken, die wahllos KI einsetzen, möglicherweise das Vertrauen der Verbraucher untergraben, wenn die Technologie die Gespräche ohne ein hohes Maß an Transparenz führt.

Apps für die psychische Gesundheit haben z.B. bereits mit ChatGPT experimentiert und die Antworten von ChatGPT verfassen lassen, was tatsächlich effektiv sein kann, aber die Frage aufwirft, ob die Antworten nicht von einem Menschen stammen. Das allgemeine Konzept von Chat-Apps für psychische Gesundheit, die Bots verwenden, ist nicht neu, und viele gibt es schon seit Jahren.

Aber die Bots so weit zu bringen, dass sie wie Menschen wirken, ist in gewisser Weise das Ziel der KI, wie es im Turing-Test festgelegt wurde: den Punkt zu erreichen, an dem Menschen in einer Unterhaltung nicht mehr zwischen einer Maschine und einem Menschen unterscheiden können. Und es wird für den Beirat schwerwiegende Probleme geben, wenn es darum geht, wie das Topmanagement der Mandatsunternehmen die KI offenlegt und die Zustimmung der Nutzer erhält.

3. Unternehmensvorstände brauchen möglicherweise einen KI-Beauftragten

Der verantwortungsvolle Einsatz von KI wird weiterhin ein wichtiger Bestandteil der Diskussion sein. Beiräte müssen möglicherweise darauf hinwirken, eine KI-spezifische Vorstandposition einzurichten. KI wird die Menschheit vorantreiben, aber das Topmanagement müsste es langsam angehen, während es herausfindet, wie generative KI am besten zu nutzen ist; ähnlich wie bei Software gibt es Viren und Antivirenprogramme.

Das könnte generative KI auch ins Fadenkreuz von ESG-Investoren rücken, die sicherstellen müssen, dass der ethische Aspekt Teil der Mission von Unternehmen ist, die KI einsetzen. Hier müssen Beirat und große Investoren eingreifen und kontrollieren, was das Profil des Unternehmens ist, wenn es diese KI einsetzt. Ebenso wie Unternehmen einen ESG-Beauftragten im Vorstand haben, müssen sie in Zukunft einen KI-Beauftragten – Chief AI Officer – im Vorstand haben.

3.1. Der Verzicht auf den Einsatz von KI könnte für die Gesellschaft das schlechtere Ergebnis sein

Die Debatte wird weitergehen, aber auf der anderen Seite aller Risiken, die mit der Einführung von KI verbunden sind, steht das Risiko für den Beirat und dessen Mandate, KI nicht zur Optimierung von Prozessen in Bezug auf Themen wie Umweltauswirkungen einzusetzen – vor allem in der Logistikbranche.

KI-gesteuerte Fertigung und Automatisierung sind entscheidend für Optimierung und Ertrag. Wenn Logistikunternehmen mit ihren Kunden sprechen, erscheint es heute einfach unverantwortlich, KI nicht zu nutzen, um die Umweltauswirkungen des Schrotts und die niedrigen Erträge in der Produktion auszugleichen. Es ist unverantwortlich für den Beirat, sich nicht mit KI-Lösungen zu befassen, weil diese heute so leistungsstark sind.

3.2. Selbst Skeptiker sind beeindruckt, jedoch sollte der Beirat Impulse für Richtlinien setzen

Abschließend sei gesagt, dass der Beirat das Geschehen nicht unterschätzen sollte, weil es die Zukunft wettbewerbsfähiger Unternehmen und erfolgreicher Top Executives prägen wird.

Es gibt viele Herausforderungen und eine Reihe schwieriger Governance-Probleme, die der Beirat bewältigen muss. Die Chancen sind aber viel zu groß, um sie einfach zu ignorieren. Die Realität ist, dass es bei jeder Veränderung Herausforderungen gibt. Der Beirat muss sich da durcharbeiten. Die Zeit wird sehr schnell ablaufen.

Daher sollte jeder Beirat die Probleme, die KI aufwirft, bewerten, um festzustellen, inwieweit sie ein wesentliches Risiko für das Unternehmen darstellen. Jeder Beirat muss KI unter Berücksichtigung des eigenen Risikoprofils des Mandatsunternehmens betrachten.(4)

(1) Vgl. den Deutschen Corporate Governance Kodex idF vom 28.4.2022 (mit Bekanntmachung im elektronischen Bundesanzeiger am 27.6.2022).

(2) Vgl. Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union, KOM/2021/206 endg.

(3) Vgl. Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27.4.2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG (Datenschutz-Grundverordnung), ABl L 119 vom 4.5.2016.

(4) Vgl. Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), KOM/2022/496 endg.