Land : Vor einigen Tagen haben mehr als tausend Menschen, die im Bereich der künstlichen Intelligenz (KI) tätig sind, eine Petition unterzeichnet, in der gefordert wird, die Forschung an leistungsstarken künstlichen Intelligenzen wie ChatGPT-4 für mindestens sechs Monate auszusetzen. Was halten Sie davon? Besteht da wirklich eine Gefahr?
Luis Leiva: Ich halte das in erster Linie für eine Marketing- oder PR-Aktion seitens der Unterzeichner und der Branchenriesen wie OpenAI oder Microsoft. Zu sagen, dass es zu schnell geht, ist eine Art, allen klarzumachen, dass sie schnell vorankommen. Die Forderung nach einer Pause ist für Elon Musk und einige andere zudem eine Gelegenheit, ihren Rückstand im Bereich der KI aufzuholen. Es gibt nur wenige bedeutende Wissenschaftler, die diesen Text unterzeichnet haben, dessen Formulierung äußerst dramatisch war. Das bedeutet nicht, dass man nicht über diese Revolution nachdenken sollte. Die Giganten der Big-Tech-Branche arbeiten mit enormen Rechenkapazitäten und Datenmengen, die nur wenige Unternehmen verarbeiten können, um Modelle zu erstellen. Es ist daher wichtig, über die Modelle nachzudenken, die wir gerade entwickeln, sich die Zeit zu nehmen, sie zu regulieren, die Risiken abzuschätzen und Verzerrungen abzubauen.
Aber erleben wir nicht trotzdem eine spektakuläre Beschleunigung der KI-Entwicklung?
Ja, wir treten zweifellos in eine neue Ära ein. Innerhalb weniger Jahre haben KI-Tools den Sprung aus den Labors in die breite Öffentlichkeit geschafft. In den letzten Monaten hat sich gezeigt, wie sehr sich ChatGPT verbreitet und etabliert hat. Studierende oder Forscher nutzen es, um ihre Formulierungen zu verbessern, das Marketing setzt es ein, um kommerzielle oder werbliche Inhalte zu generieren, Helplines arbeiten mit Chatbots, Journalisten schreiben ihre Artikel mit Hilfe von
ChatGPT… Vor nicht allzu langer Zeit ging es lediglich darum, Clickbait-Schlagzeilen zu generieren, um Leser auf Werbeinhalte zu locken. Heute sind es nicht mehr nur die Überschriften. Es ist möglich, Texte über alles Mögliche zu generieren, sowohl mit echten Informationen als auch mit Falschmeldungen. Die Ergebnisse sind sehr überzeugend. Zumindest auf den ersten Blick. Denn bei genauerem Hinsehen sind diese Texte oft oberflächlich, ohne Substanz und verwenden immer wieder dieselben Wörter oder Formulierungen. Doch das kann viele Menschen täuschen. Die stetige Aushöhlung des kritischen Denkens macht uns abhängig von einem Werkzeug, das leicht dazu genutzt werden kann, uns zu manipulieren.
Es geht nicht nur um Texte, sondern auch um Bilder. Sicherlich haben Sie schon einmal den Papst in einer weißen Daunenjacke gesehen, Emmanuel Macron beim Müllsammeln oder Donald Trump, wie er sich inmitten von Polizisten wehrt, die gekommen sind, um ihn festzunehmen. Meistens wurden diese Bilder verbreitet, ohne dass erwähnt wurde, wie sie entstanden sind. Wie soll man darauf reagieren?
Es ist in der Tat ziemlich unglaublich, was Modelle wie Midjourney alles erzeugen können. Deshalb müssen wir kritischer sein und genauer hinschauen. Man muss auf unstimmige Details achten: Hände mit sechs Fingern, ein am Hals angewachsener Ohrläppchen, Texte, die keinen Sinn ergeben oder aus nicht existierenden Alphabeten bestehen, funktionsunfähige Objekte, unmögliche Architektur… Ein bisschen so, als würde man ein „Finde die sieben Unterschiede“-Spiel auf einem einzigen Bild genau unter die Lupe nehmen. Man könnte die Anbringung eines Wasserzeichens vorschreiben, das auf eine KI-Erzeugung hinweist. Aber es wäre sicherlich ein Leichtes, dieses zu manipulieren, um es zu entfernen. Es gibt kein perfektes Werkzeug, um den Einsatz von KI zu erkennen. Das Wichtigste für mich ist, die Bevölkerung dazu anzuleiten, genau hinzuschauen und kritisch zu sein – sowohl bei Bildern als auch bei Texten. Wir dürfen nicht darauf warten, dass Unternehmen kritisches Denken fördern – das ist etwas, das wir selbst entwickeln müssen, sowohl als Einzelpersonen als auch gemeinsam als Gesellschaft. Man muss lernen, nicht alles für bare Münze zu nehmen, Quellen zu überprüfen und zu recherchieren, und zwar schon in der Schule. Früher lernte man, dass etwas nicht wahr ist, nur weil es im Fernsehen gesagt wurde. Heute lernt man, dass man das, was man in den sozialen Netzwerken oder auf Wikipedia findet, hinterfragen muss. Morgen werden alle Bilder und Texte hinterfragt werden müssen. Ich sehe einen gesellschaftlichen Fortschritt darin, kritischere Bürger heranzubilden.
KI verändert die Art und Weise, wie wir arbeiten. Werden neue Berufe entstehen?
Neben den vielfältigen Berufen in der Informatik, in denen die Werkzeuge der KI entwickelt werden, verändert sich auch die tägliche Arbeit mit der KI und erfordert spezifische, darauf abgestimmte Kompetenzen. Entsprechende Ausbildungsangebote werden sehr bald entstehen. So entsteht beispielsweise bereits der Beruf des „Prompt-Erstellers“. Dabei handelt es sich um Personen, die in der Lage sind, Anweisungen zu verfassen, damit die Maschine das tut, was von ihr verlangt wird, insbesondere das gewünschte Bild zu generieren. Es handelt sich um Befehle, Schlüsselwörter, Referenzen, Szenarien und Beschreibungen, die die Maschine anleiten. Die neuen rechtlichen Fragen werden den Einsatz von Spezialisten erfordern, insbesondere im Urheberrecht. Wer ist der Urheber des Bildes: das Unternehmen, das die KI entwickelt hat, derjenige, der die Eingabeformulierung verfasst hat, oder derjenige, von dem das Bild inspiriert ist? Firefly, die von Adobe entwickelte Anwendung zur Bilderzeugung, lehnt die Verwendung von urheberrechtlich geschützten, lizenzierten Bildern oder Vorlagen sowie von Kunstwerken ab. Wenn man die App auffordert, eine Szene mit Pikachu zu erstellen, ist das Ergebnis eine gelbe Ratte, während Midjourney, das das Urheberrecht außer Acht lässt, ein Ergebnis anzeigt, das der Originalfigur sehr nahekommt. Das eine ist nicht unbedingt besser als das andere, es kommt darauf an, was man sucht: das Naheliegende oder die Überraschung.
Wie beschafft sich ChatGPT die Informationen, auf denen seine Antworten basieren? Mit anderen Worten: Wie lernt die Maschine?
Man muss zwischen verschiedenen Arten des maschinellen Lernens unterscheiden. Am häufigsten ist das überwachte Lernen, d. h. das Lernen anhand von beschrifteten oder annotierten Daten. Beispielsweise werden Fotos mit einer Beschreibung dessen versehen, was sie darstellen. Die Parameter des Modells passen sich an, um auf ähnliche Situationen zu reagieren. Je mehr Daten dem Modell zugeführt werden, desto relevanter wird das Ergebnis, wodurch die Fehlerquote sinkt. Beispielsweise werden Zeichnungen oder Notizen gezeigt, die von gesunden Menschen und von Menschen mit Parkinson gezeichnet wurden. Durch den Vergleich großer Mengen von Zeichnungen kann das Modell zwischen den beiden Personengruppen unterscheiden und die Krankheit erkennen. Chat-GPT (kurz für „Generative Pre-Trained Transformer“) arbeitet jedoch mit unüberwachtem Lernen. Das heißt, das Modell sucht selbstständig nach Strukturen und Mustern in den Daten: genauer gesagt, welche Wörter in der Regel zusammen auftreten, in welcher Reihenfolge und in welcher Abfolge. Anschließend ermöglichte das überwachte Fine-Tuning das Training der KI anhand realer Gespräche mit dafür vorgesehenen Menschen. Die Besonderheit von ChatGPT besteht darin, einen spezifischen Bereich des maschinellen Lernens, nämlich die großen Sprachmodelle (Large Language Models), auf eine Konversationsumgebung anzuwenden. Die Maschine baut ihre eigene Lernbasis autonom auf, in diesem Fall, indem sie auf riesige Mengen an Ressourcen aus dem Internet zurückgreift: Artikel, Unterhaltungen, Website-Inhalte, Online-Bücher. Derzeit reicht ihre Wissensbasis bis ins Jahr 2021 zurück. Genau deshalb ist dieses Modell so leistungsstark: Es nutzt so gut wie das gesamte Internet. Genau deshalb ist es aber auch anfällig, da es nicht zwischen wahr und falsch unterscheiden kann. Doch unser Gehirn funktioniert nicht so. Wir denken nicht in Wortfolgen. Die Maschine, so leistungsfähig und gut trainiert sie auch sein mag, ahmt lediglich die menschliche Produktion nach. Sie schafft nichts, sondern generiert Inhalte, indem sie das Vorhandene beobachtet und analysiert.
Welche Einschränkungen und Regelungen wurden eingeführt?
Die wichtigsten Akteure im Bereich der KI sind die Amerikaner und die Chinesen. Europa behauptet sich, indem es an der Regulierung arbeitet. Das ist ein logischer Weg, wenn man nicht in den Wettbewerb einsteigen kann, und ein wichtiger Weg, wenn man es mit Giganten zu tun hat – vor allem, wenn es sich um kommerzielle Unternehmen handelt. Europa hat einen AI Act verabschiedet, ein Rahmengesetz, das sicherstellen soll, dass die auf den Markt gebrachten Systeme sicher sind und die Grundrechte der Bürger sowie die Werte der EU achten. Der Text klassifiziert KI-Anwendungen nach mehr oder weniger akzeptablen Risiken und legt fest, welche spezifischen gesetzlichen Anforderungen für sie gelten.
Und reicht das aus? Die Regulierung der sozialen Netzwerke zum Beispiel scheint sehr dürftig zu sein…
Ein Gesetz zu diesem Thema ist unerlässlich. Anbieter, Importeure, Händler und Nutzer müssen sich an diesen rechtlichen Rahmen halten, der auch Sanktionen vorsieht. Es stimmt, dass die Regulierung in den sozialen Netzwerken sehr lax ist. Wenn man die „Allgemeinen Geschäftsbedingungen“ liest – was niemand tut –, wird einem klar, dass man seine Seele verkauft. Auf dieser Grundlage machen die Plattformen, was sie wollen. Auch hier müssen wir unsere eigenen Handlungen kritisch hinterfragen.
Ist Europa dazu verdammt, die Rolle eines regulierenden Schiedsrichters einzunehmen?
Wenn man sich die marktführenden Unternehmen wie Microsoft oder Google ansieht, erkennt man die enormen Investitionen, die in Rechenzentren und Supercomputer getätigt werden. Europa ist nicht groß genug und verfügt nicht über die Mittel, um in diesem Bereich mitzuspielen. Das ist keine Frage der Kompetenz, sondern eine Frage der Größenordnung. Es gibt eine große Zahl gut ausgebildeter Menschen, die ein sehr hohes Forschungsniveau erreichen … und dann in die USA gehen. Man kann feststellen, dass alle Fortschritte, von denen wir sprechen – von alltäglichen Werkzeugen bis hin zu revolutionären Innovationen – fast immer an Universitäten ihren Anfang genommen haben, an denen Forschung betrieben wird. Danach muss jemand das Produkt in einem Start-up weiterentwickeln und auf den Markt bringen, und hier sind die Europäer weniger stark und weniger flexibel. An der Universität Aachen beispielsweise haben Professor Hermann Ney und sein Team ein automatisiertes Übersetzungssystem entwickelt. Einer dieser Forscher ging in die USA und gründete Google Translate…
Worum geht es bei Ihrer Forschung? Wird sie dazu führen, dass Sie ein Start-up gründen?
Ich bin Professor für Informatik und arbeite seit zwei Jahren in der Forschungsgruppe „Computational Interaction“ mit. Meine Forschung befindet sich an der Schnittstelle zwischen maschinellem Lernen und Mensch-Maschine-Interaktion, um zu verstehen, wie Menschen im Umgang mit Maschinen agieren: Was sie betrachten, wie sie klicken, wie sie auswählen, wie sie speichern, wie sie schreiben. Ich versuche, Modelle zu entwickeln, indem ich sowohl Analyse-, Automatisierungs- und Abstraktionswerkzeuge als auch experimentell erhobene Daten nutze. Beispielsweise verwenden wir einen Eye-Tracker, um die Augenbewegungen zu verfolgen und zu beobachten, worauf die Nutzer ihren Blick richten. Dies kann bei der Gestaltung von Benutzeroberflächen und Websites helfen, damit Nutzer Informationen leichter finden können … Es gibt zahlreiche praktische Anwendungsmöglichkeiten. Genau diese Art von Daten nutzen die Entwickler von Plattformen wie sozialen Netzwerken, um Modelle zu erstellen, die das Engagement der Nutzer maximieren und sie auf der Plattform halten.
In den kommenden Wochen wird meine Gruppe die Ergebnisse ihrer Arbeit dazu vorstellen, wie man Kunstwerke betrachtet, beschreibt und klassifiziert, mit dem Ziel, personalisierte Empfehlungen für Rundgänge durch Museen zu erstellen. Bislang wurden die Werke anhand ihrer textuellen Merkmale (Datum, Titel, Künstler, Kommentar des Kurators, Stil…) oder ihrer visuellen Merkmale analysiert. Unser Ansatz, der Lerntechniken sowohl für visuelle als auch für textuelle Aspekte kombiniert, geht einen Schritt weiter und liefert überzeugendere Ergebnisse. Auf diese Weise können die Rundgänge in den Museen an den Geschmack oder das Verhalten jedes Einzelnen angepasst werden: an diejenigen, die lange vor einem Werk verweilen möchten, an diejenigen, die alles sehen wollen, an diejenigen, die von Saal zu Saal gehen … Das ist in realen Museen nützlich, vor allem wenn sie sehr groß sind, aber auch in der virtuellen Welt sehr interessant, wo Empfehlungen dazu führen können, dass man sich seine eigene Ausstellung, sein eigenes Museum zusammenstellt. Wir beginnen eine Zusammenarbeit mit dem Nationalmuseum für Geschichte, Kunst und Archäologie, das einen Großteil seiner Sammlung digitalisiert hat, um unsere Modelle zu testen. Es ist zwar noch nicht das Metropolitan Museum in New York … Aber es ist ein Anfang.
