Warum uns künstliche Intelligenz noch nicht ersetzen wird, wir uns aber trotzdem mit ihr auseinandersetzen müssen.

Nachdem wir uns in unserem letzten Beitrag mit ChatGPT ins Interview begeben haben, stellen wir uns im Anschluss der Frage, wo nun tatsächlich die Grenzen von künstlichen Intelligenzen liegen. Ist sie wirklich so weit, dass auch der Rechtsmarkt bald gänzlich KI gesteuert ist? 

Kritische Diskussionen über künstliche Intelligenzen ufern nicht selten aus in Warnungen vor beinahe dystopischen Szenarien, die den großen Science-Fiction Blockbustern unserer Zeit bedenklich nahekommen. Gemessen an dem tatsächlichen Stand der Technologie, zeichnet sich jedoch ein etwas anderes Bild ab. Während Diskussionen in die Zukunft abschweifen, sind es heute die bestehenden Limitierungen von künstlicher Intelligenz, die bereits Einfluss auf Arbeit, Leben und Gesellschaft nehmen.²

Schon bei der Definition von KI häufen sich erste Missverständnisse. Eingefärbt durch fiktive Versionen künstlicher Intelligenz aus populären Medien, denken wir oft an beinahe menschliche Maschinen mit erschreckender Autonomie und kognitiver Reichweite. Diese Art von KI, wird fachsprachlich als künstliche allgemeine Intelligenz bezeichnet - und ist bis heute noch reine Fiktion.⁵

Künstliche Intelligenzen die aktuell im Umlauf sind, wie beispielsweise ChatGPT oder DALL.E, zählen als narrow artificial intelligence, oder auch schwache KI im Deutschen. Wie der Name vermuten lässt, sind diese ausschließlich in der Lage spezifische Aufgaben in einem eng definierten Kontext auszuführen.¹ Selbst dynamische Systeme, die mittels maschinellen Lernens besser in ihrem Anwendungsgebiet werden können, stoßen so schnell an ihre Grenzen bei abweichenden Aufgaben. Das Übertragen von Wissen auf neue Situationen und Problemstellungen, zu dem Menschen fähig sind, liegt außerhalb der Möglichkeiten existierender künstlicher Intelligenz.² Auch wenn das nicht immer auf den ersten Blick erkenntlich ist.

Mangelnde Transparenz

Wie können sich bei der Nutzung von KI, beispielsweise zur Informationsbeschaffung und Datenanalyse, nun Fehler einschleichen? Der kritische Faktor ist hier die mangelnde Transparenz von Prozessen, die im Hintergrund der KI ablaufen.^1,2 So kann es bei generativen Programmen wie ChatGPT schwierig sein, die Quellen für den generierten Text zu Gänze nachzuvollziehen und entsprechend auf Validität und Vertrauenswürdigkeit zu prüfen. Vorausgesetzt, die Person vor dem Bildschirm ist sich dieser Problematik überhaupt bewusst und zusätzlich bereit, den ausgegeben Text mit angemessener Sorgfalt zu prüfen.

Bei Softwareanwendungen, die beispielsweise im Unternehmenskontext oder bereits in manchen Rechtssystemen angewendet werden, können diese Hintergrundprozesse unüberschaubare Komplexität entwickeln. Selbst geschulte Fachleute sind dann nicht mehr in der Lage, jeden Schritt der KI nachzuvollziehen.

Faktor Mensch

Die Abnahme von komplexen Prozessen, gerade im Bereich der Datenauswertung und Informationsbeschaffung, ist auch genau das, was wir uns von der Nutzung von KI erhoffen. Worin liegt dann das Problem, wenn KI vermeintlich rationaler und objektiver bei diesen Aufgaben vorgehen kann?

Die Antwort liegt im Ursprung von KI - dem Mensch. Niemand von uns ist in der Lage, die eigene Subjektivität effektiv abzuschalten. Wir treffen täglich Entscheidungen auf Grund der uns zur Verfügung stehenden Informationen. Einiges davon mag auf explizitem Wissen basieren, das wir hinterfragen, abwägen und anpassen können, vieles basiert jedoch auf impliziten Annahmen eingefärbt von unseren persönlichen Erfahrungen und Befindlichkeiten.

Entwickler*innen von künstlicher Intelligenz können sich selbst nicht von ihrer eigenen Subjektivität lösen und können diese so unbemerkt an die zu entwickelnde KI weiterreichen. Jegliche Fehleinschätzungen, oder nicht ausreichend begründeten Annahmen, die bei der Entwicklung mit in das System einfließen, übernimmt die KI entsprechend ohne Einspruch.

Modelle der Realität

Jeder KI liegt die modellhafte Version einer realen Problemstellung zu Grunde. Wenn wir KI beispielsweise verwenden wollen, um Prognose über neue Trends im Rechtsmarkt zu erstellen, müssten zunächst alle möglichen Variablen identifiziert werden, die potenziell relevant sein könnten. Doch hätte jedes Entwicklungsteam vor 2019 beispielsweise zwingend an die Möglichkeit einer einbrechenden Pandemie gedacht?

Künstliche Intelligenzen, zumindest die narrow AI, die uns aktuell zu Verfügung steht, beruht auf vereinfachten Modellen unserer Gegenwart und den einhergehenden Aufgabenstellungen. Soziopolitische und wirtschaftliche Systeme sind jedoch so komplex, dass nie ausgeschlossen2 werden kann, dass die Modelle, die wir uns erschließen, unvollständig sind.Und selbst wenn KI auf realitätsnahen Modellen beruht, muss sie zusätzlich mit den korrekten Daten gefüttert werden. Nicht umsonst ist die Auswahl und Aufarbeitung von Datensets eine der kritischsten Arbeitsschritte in der Anwendung von Machine Learning und KI.

Selbst KI, die auf dynamischen Modellen beruht und Zugang zu umfangreichen Datensets hat, benötigt entsprechend kontinuierliches Feedback und regelmäßige Kontrolle durch menschliche Fachkräfte.³

Wie geht es weiter?

Trotz aller relevanten Kritik lässt sich nicht abstreiten, dass KI ein Teil unseres Alltags- und Berufslebens geworden ist. Die Sorge um komplette Überflüssigkeit des eigenen Berufsbildes lässt sich für viele Tätigkeiten aber noch in fernere Zukunft schieben. Selbst bei gefährdeten Berufsbildern mit engen Tätigkeitsbereichen gibt es oft noch überraschende Hürden, an denen sich KI ohne menschliche Unterstützung aufhängt^.4 Zum jetzigen Zeitpunkt wird davon ausgegangen, dass generalisierte künstliche Intelligenz frühestens in der nächsten Dekade real werden könnte – und damit dann gerade erst in den Kinderschuhen stecken würde. 

Aktuell liegt die Herausforderung für die meisten Jobs in der Integration von KI in die eigenen Arbeitsprozesse. Denn auch wenn es noch ein weiter Weg ist, bis KI theoretisch in der Lage sein könnte auch komplexere Jobs zu übernehmen, kann sie bereits heute den Personen Vorteile verschaffen, die in der Lage sind, sie angemessen zu nutzen. Das Stichwort liegt dabei bei “angemessen”.

Nach einer von der europäischen Kommission in Auftrag gegebenen Guideline für den ethischen Umgang mit KI steht dabei als erste von sieben Richtlinien "human agency and oversight".³ Der Faktor Mensch kann und sollte dementsprechend nicht aus dem Prozess ausgeklammert werden, sondern bleibt ein fundamentales Element in allen KI gestützten Prozessen. Was im Umkehrschluss auch bedeuten kann, dass es in menschlicher Verantwortung liegt, sich der aufgeführten Limitierung von KI bewusst zu sein und entsprechend nicht blind auf ihren Output zu vertrauen.

Um künstliche Intelligenz in einen effektiven Wettbewerbsvorteil umzuwandeln, liegt die Herausforderung im Umdenken von bestehenden Prozessen – sowohl im wirtschaftlichen als auch rechtlichen Kontext.⁴ Dabei geht es nicht nur darum, ChatGPT das Schreiben von monotonen Emails abzutreten.

Viel mehr liegt die Herausforderung darin, in Zusammenarbeit mit Expert*innen aus Technologie, Wirtschaft und Recht, bestehende Geschäftsmodelle gründlich vor dem Hintergrund digitaler Transformation zu analysieren und im Anschluss konsequent neu zu denken, anstatt nur neue Technologien auf alte Prozesse anzuwenden.⁴




Quellen:
¹ Bostrom, N. & Yudkowsky, E. (2014). The Ethics of Artificial Intelligence. In W. Ramsey &K. Frankish (Hrsg.), The Cambridge Handbook of Artificial Intelligence. Cambridge:Cambridge University Press, S.316-334.
² O’Neil, C. (2016). Weapons of Math Destruction. How Big Data Increases Inequality andThreatens Democracy. London: Penguin.
³ High-Level Expert Group on AI. (2019). Ethics Guidelines for Trustworthy AI. EuropeanCommission. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
⁴ Digital Legal Exchange. (2020). Erik Brynjolfsson and Mark Cohen Interview. [YouTube] https://www.youtube.com/watch?v=SWUAjDouAoo
⁵ IBM. (n.D.). Was ist künstliche Intelligenz (KI)? https://www.ibm.com/de-de/topics/artificial-intelligence