Das Auftauchen mehrerer auf Algorithmen der künstlichen Intelligenz (KI) basierender APIs im Internet Ende 2022, von denen die einen die Erzeugung von Bildern (die Gemälde, Zeichnungen oder Fotografien simulieren) ermöglichten, andere wiederum Texte zu generieren, löste eine Flut von Analysen und Kommentaren aus – teils begeistert, teils apokalyptisch –, die sich auf das bezogen, was von vielen als Vorbote eines radikalen Umbruchs in der Geschichte der Menschheit angesehen wurde.
Künstliche Intelligenz und ihre Herausforderungen
Auf den ersten Blick mag dieser plötzliche Hype unpassend erscheinen. Tatsächlich geht das KI-Projekt auf die Arbeiten des englischen Mathematikers Turing zurück, also auf die vierziger Jahre des 20. Jahrhunderts. Und seit gut zwanzig Jahren spielen Softwareprogramme, die auf KI-Algorithmen basieren, eine wichtige Rolle in unzähligen Bereichen des menschlichen Lebens – von den mathematischen Wissenschaften über Chatbots, Medizin, Finanzen, maschinelle Übersetzung bis hin zu autonomen Fahrzeugen, das Verkehrsmanagement, Wettervorhersagen, die Kameras unserer Smartphones und so weiter – fast bis ins Unendliche. Und natürlich ist sie in Internetarchitekturen allgegenwärtig, insbesondere in Suchmaschinen und sozialen Netzwerken, bei der Automatisierung der Inhaltserstellung, in Programmen zur Spam-Erkennung, der Bildanalyse, der Moderation von Inhalten oder auch in dem, was euphemistisch als „Personalisierung der Nutzererfahrung“ bezeichnet wird.
Selbst Bild- und Textgeneratoren wurden im Jahr 2022 nicht aus dem Nichts geschaffen, sondern kommen bereits seit mindestens 2019 zum Einsatz. Allerdings waren sie vor Ende 2022 nicht mit APIs verknüpft, d. h. mit Online-Programmen, die direkt mit den KI-Programmen verbunden sind, welche die Bilder oder Texte generieren, und die sich auf den Servern der betreffenden Unternehmen (OpenAI, Microsoft, Google und andere), und waren daher im Internet nicht frei zugänglich.
Die KI hatte zudem von Anfang an ihr Ziel verkündet, die menschliche Intelligenz einzuholen, ja sogar zu übertreffen und zu ersetzen. Und dieses Vorhaben hat schon immer Diskussionen ausgelöst. So finden sich Warnungen vor den Risiken der KI bereits Ende der 1940er Jahre in der Science-Fiction von Isaac Asimov und später auch bei Philip K. Dick oder Arthur C. Clarke (man denke nur an den beunruhigenden Computer HAL in „2001: 2001: Odyssee im Weltraum von Stanley Kubrick, dessen Drehbuch Arthur C. Clarke mitverfasst hatte). Auch Wissenschaftler und Philosophen blieben nicht untätig, darunter einer der Erfinder des WWW, Tim Berners-Lee, der eine Regulierung der Entwicklungen im Bereich der KI (aber auch der sozialen Netzwerke, die stark davon abhängig sind) forderte. Doch bis vor kurzem waren diese Debatten vor allem eine Angelegenheit von Fachleuten oder Geeks und erreichten die breite Öffentlichkeit kaum. Das begann sich zwar um 2015 mit der Entwicklung der ersten humanoiden Roboter zu ändern, doch die derzeitige Aufregung ist völlig beispiellos.
ChatGPT-3: Chancen und Grenzen
Dennoch ist die Begeisterung verständlich. Es besteht ein großer Unterschied zwischen dem Lesen von Beschreibungen darüber, was KI leisten kann, und der eigenen Erfahrung damit – und genau das ermöglichen die APIs, die in den letzten Monaten online gestellt wurden. Hinzu kommt, dass im Fall der beiden bekanntesten (da am breitesten einsetzbaren) und am meisten diskutierten APIs, nämlich DALL-E2 und ChatGPT3, fiel die Veröffentlichung mit einer erheblichen Steigerung ihrer Leistungsfähigkeit sowie des Umfangs der von ihnen genutzten Datenbanken zusammen. So erzeugen DALL-E2 und zahlreiche andere Bildgeneratoren heute Fotomontagen, die etwa fünfzig Prozent der Testpersonen täuschen können – mit potenziell verheerenden Folgen für das Internet, insbesondere hinsichtlich der Verfälschung von Fotodatenbanken.
Meiner Meinung nach stellen jedoch die Generatoren von Texten und ganz allgemein von Diskursstrukturen – deren Vorzeigeprojekt derzeit ChatGPT3 ist – die größte Herausforderung dar, da sie direkt auf die zentrale Schnittstelle der zwischenmenschlichen Kommunikation und sogar der Beziehung zu sich selbst einwirken: die Sprache. Wer ChatGPT-3 auch nur ein einziges Mal genutzt hat, kann sich kaum seiner Leistungsfähigkeit entziehen: Es liefert in Rekordzeit glaubwürdige Antworten auf alle gestellten Fragen, und zwar in jedem beliebigen Fachgebiet ; im Abfragemodus erzeugt es Texte von einer Komplexität und Vielfalt, die denen menschlicher Texte in nichts nachstehen ; es ist zu erstaunlich facettenreichen Interaktionen mit demjenigen fähig, der die Anfrage stellt. All dies vermittelt dem menschlichen Gesprächspartner den Eindruck, mit einer überlegener Intelligenz zu kommunizieren, die über alles Bescheid weiß, unaufhörlich neues Wissen generiert und über kreative Ressourcen verfügt, die die der Menschen übersteigen. Beweisen seine vielfältigen Einsatzmöglichkeiten in der internen und externen Unternehmenskommunikation, beim Verfassen wissenschaftlicher Artikel, bei Beiträgen in sozialen Netzwerken, bei Bewerbungen, bei der Erstellung von Webseiten und so weiter nicht, dass dies tatsächlich der Fall ist ?
Doch der Eindruck seiner schöpferischen Kraft ist eine Illusion, die darauf zurückzuführen ist, dass wir vom Output so geblendet sind, dass wir uns keine Gedanken über den Input machen. Sobald man sich mit der Art und Weise befasst, wie die Texte generiert werden, stellt man fest, dass die Situation ganz anders aussieht. Tatsächlich stammen alle von ChatGPT-3 generierten Elemente aus den riesigen Datenbanken aus dem Internet, auf denen der Algorithmus trainiert wurde (diese Trainingsphase wirkt wie ein Katalysator, der es ihm anschließend ermöglicht, in den Modus des unüberwachten maschinellen Lernens überzugehen und sich im Laufe seiner Operationen selbstständig zu verbessern). Zusammengenommen erreichen diese Datenbanken die schwindelerregende Zahl von 500 Milliarden Einheiten, die miteinander kombiniert werden können. Der Eindruck von Kreativität entsteht zum Teil durch den abgrundtiefen Unterschied zwischen der Größe und damit der Leistungsfähigkeit des Textgedächtnisses, das die KI nutzen kann, im Vergleich zu den Grenzen des menschlichen semantischen Gedächtnisses oder physischer Bibliotheken. Er entsteht auch dadurch, dass der Generator keine Texte kopiert, sondern elementare Einheiten aus den Datenbanken neu kombiniert. Aber ist diese Neukombination wirklich kreativ?
Man muss davon ausgehen, dass alle Grundelemente, die der Textgenerator zur Erstellung seiner Texte verwendet, aus diesen Datenbanken stammen und somit nicht von ihm selbst erzeugt werden. Da er zudem selbst keinen Zugang zur Welt hat, kann er kein neues Wissen erzeugen, da Wissen immer aus einer Begegnung mit der Realität entsteht. Da ein Teil der Texte in seinen Datenbanken Protokollen von Wissen entspricht, das durch kognitive Begegnungen mit der Realität erworben wurde, findet man in den generierten Texten natürlich auch reales Wissen, das der jeweilige menschliche Gesprächspartner, der die Software befragt, noch nicht kennt (deshalb befragt er die Software ja auch). Doch dieses Wissen wurde nicht von der Software geschaffen: Es wurde von anderen Menschen geschaffen und in Texten festgehalten, die die KI lediglich auswertet.
Zweitens hat ChatGPT-3 keinerlei Möglichkeit, bei den Texten, die es verarbeitet – und folglich auch bei den Texten, die es erstellt –, zwischen wahren und falschen, zwischen aufrichtigen und solchen, die Lügen (oder Manipulationen) darstellen, zu unterscheiden. Dies wird übrigens (auf ach so zurückhaltende Weise!) auf der API-Website angegeben: „May occasionally generate incorrect information“. Dieses Risiko ist kein Zufall, denn zwar redet ChatGPT-3 teuflisch gut, hat aber nicht die geringste Ahnung, wovon es redet. Tatsächlich ist sein einziges Auswahlkriterium für die Einheiten, die es aneinanderreiht, probabilistischer Natur. Konkret bedeutet dies: Sobald eine Einheit (der Einfachheit halber sagen wir ein Wort) generiert wurde, basiert die Entscheidung darüber, welche Einheit als Nächstes generiert wird, auf der statistischen Wahrscheinlichkeit, mit der in der verwendeten Datenbank diese oder jene Einheit auf das Vorkommen der gerade generierten Einheit folgt (tatsächlich ist es etwas komplizierter als das, aber das ändert nichts am Kern der Sache). Es fließen also keinerlei semantische Überlegungen (d. h. in Bezug auf Wahrheit, Sinn und Bedeutung) in diese Entscheidungen ein.
Was bedeutet das? Jean-Gabriel Ganascia, ein renommierter Experte für Digitaltechnik und insbesondere für künstliche Intelligenz, schrieb in „Le Point“, dass ChatGPT-3 „ein Papagei ist, der zufällige Antworten gibt“. Dieses Bild trifft nicht ganz zu. Einerseits unterschätzt es die Intelligenz von Papageien, andererseits – und das ist noch schwerwiegender – antwortet ChatGPT3 nicht willkürlich. Diese These ließe sich aufrechterhalten, wenn in der von ihm genutzten Datenbank die Einheiten in zufälliger Reihenfolge aufeinanderfolgen würden, mit anderen Worten, wenn in den Datenbanken die Wahrscheinlichkeit, dass ein bestimmtes Wort nach einem anderen auftritt, zufällig wäre. Dies ist jedoch offensichtlich nicht der Fall, da die Datenbanken aus Texten bestehen, also aus kohärenten Diskurskonstruktionen, deren Organisation nicht zufällig ist: Sie ist die Umsetzung einer Aussage, einer (im Allgemeinen) kohärenten semantischen Absicht, auch wenn diese nicht immer richtig oder wahr ist. In den Datenbanken hat ein unmittelbarer Kontext, der das Wort „Atom“ enthält, hat somit unendlich viel größere Chancen, wenn schon nicht direkt, so doch zumindest etwas weiter hinten, auf den Begriff „Elektron“ oder „Positron“ oder „Kern“ usw. zu folgen als dem Begriff „Badehose“ oder „Liebe“ oder „Dollar“ usw. Da die vom KI-Algorithmus berechnete Wahrscheinlichkeit von den nicht zufälligen Wahrscheinlichkeitsketten abhängt, die sich in den Datenbanken befinden, ist auch sie nicht zufällig. Genau aus diesem Grund sind die generierten Texte aus semantischer Sicht – also aus der Perspektive eines menschlichen Lesers – fast immer wohlgeformt und kohärent, obwohl es nicht diese semantische Dimension war, die die Entscheidungen des Algorithmus geleitet hat.
Die mythogene Kraft von ChatGPT-3
Die Art und Weise, wie ChatGPT 3 seine Texte generiert, hat noch eine weitere Konsequenz, die mir weitaus wichtiger erscheint. Die riesigen Datenbanken, die der Algorithmus abfragt, um die Wahrscheinlichkeiten zu berechnen, die die Textgenerierung bestimmen, sind Internetdatenbanken. Was aber ist das Internet, wenn man es global betrachtet, wenn nicht die Sammlung (oder gar das Archiv !) von Vorstellungen, Urteilen, Bewertungen, Meinungen, Stimmungen, wahren und falschen Überzeugungen, Wissen und Pseudo-Wissen aller seiner Nutzer zu einem bestimmten Zeitpunkt t ? Die Erstellung eines Textes mittels einer auf diesen Korpus angewandten Wahrscheinlichkeitsberechnung führt daher zwangsläufig zu einer Verzerrung zugunsten der Vorstellungen, Überzeugungen, Werte usw., die in seinen Datenbanken am weitesten verbreitet sind, also die am häufigsten geteilten, die konsensfähigsten, die dominierendsten, die standardisiertesten, ja sogar die stereotypsten usw. Was konsensfähig oder dominant ist, ist manchmal wahr, manchmal falsch, manchmal aufrichtig, manchmal verlogen oder manipulativ (oder sogar selbstmanipulativ), aber es ist immer plausibel und somit glaubwürdig. Was geteilt wird und Konsens findet, neigt in der Tat dazu, glaubwürdiger zu werden (möglicherweise bis hin zu einer Selbstverständlichkeit), ebenso wie umgekehrt das, was (mittlerweile) glaubwürdig ist, dazu neigt, stärker geteilt zu werden und auf Konsens zu stoßen.
Diese Wechselbeziehung zwischen Teilen, Konsens, Übereinstimmung und dem Plausiblen/Glaubwürdigen entspricht jedoch genau der Dynamik, die nach Roland Barthes’ Auffassung den Mythologien zugrunde liegt: sozial geteilte, konsensuelle Vorstellungen, die nach dem Prinzip des Plausiblen oder Offensichtlichen funktionieren und somit gegen jede Überprüfung durch die Realität immun sind. Sollte der Einsatz von Software wie ChatGPT-3 bei der Textproduktion vorherrschend werden – was keineswegs auszuschließen ist –, würde dies die mythogene Funktionsweise und Funktion des Internets erheblich verstärken. Tatsächlich werden zukünftige KI-Generatoren nicht mehr auf stabile Datenbanken zurückgreifen (wie es ChatGPT-3 noch tut), sondern auf dynamische Datenbanken, die also ständig mit neuen Elementen gespeist werden. Zu diesen neuen Elementen wird natürlich auch der immer umfangreichere Korpus von Texten gehören, die von den KI-Textgeneratoren selbst erstellt wurden. Dies wird eine sich selbst verstärkende Schleife zugunsten des Konsensuellen usw. erzeugen, wobei die Textgeneratoren ihre eigenen Datenbanken verzerren und ihren Lesern zunehmend standardisierte Ergebnisse liefern. Wie weit wird das gehen? Die Zeit wird es zeigen.
