Moderne KI-Systeme, und insbesondere die LLM-basierten Systeme, erfreuen sich großer Beliebtheit und Bekanntheit, und sind außerdem Quell einer längst überfälligen Diskussion über deren Wirkungen auf die Gesellschaft und die Zukunft von Menschen, Kultur, Arbeit.
Beschrieben, fast schon beschrieen, wird “die KI” als Dämon, Unheilsbringer, Büchse der Pandora (präzise: Das Fass der Pandora). Zuweilen wird sie deutlich positiver mit der Dampfmaschine (und der damit auslösenden industriellen Revolution) verglichen. Auch mit dem der Wirkung des Buchdrucks zieht man Parallelen, weil KI-Systeme wie ChatGPT etc.
KI-Systeme gibt es schon deutlich länger, auch sprachlich orientierte KI-Chat-Systeme wie ELIZA, die Joseph Weizenbaum vor Jahrzehnten entwickelte. Und plötzlich dringen massenzugängliche und massentaugliche Angebote wie ChatGPT, Midjourney etc. an die Oberfläche.
Doch die Massentauglichkeit kann man in Frage stellen. Die Dampfmaschine war nur verhältnismäßig wenigen Menschen tatsächlich zugänglich. Man schätzt, dass zu Beginn der Entwicklung etwa 10.000 bis 15.000 Menschen an und mit Dampfmaschinen gearbeitet haben, letztendlich wirkte sich die Technologie sich auf ganz Europa aus, später auf die ganze Welt. Der Buchdruck war auch keine hochkomplexe Technologie, die daraus resultierenden Produkte veränderten die Welt, in dem sie änderten, wie und was wir über die Welt lernten. Auch damals gab es Missbrauch. Das Monopol Bücher zu vervielfältigen, lag bis dahin bei der Kirche. Denkt man an die Nutzung von Atomenergie, erkennt man, wie Ängste und Visionen erneut in die Diskussion einfließen. Die Konsequenzen waren unvorhersehbar, der Traum vom heimischen nuklearen Reaktor im Garten blieb aus, die großen und kleinen Nuklearwaffen wurden Realität.
Skalierbarer Beelzebub
ChatGPT etc. wird selbsttätig kein Mittel gegen Krebs entwickeln. Andere Systeme vermutlich auch nicht. Aber es bringt uns näher, bringt uns auf Ideen, oder kreiert sogar selbst neue Ideen. Allein die Tatsache, dass moderne LLM-basierte KI-Systeme sprachlich bessere Fähigkeiten besitzten als der durchschnittliche Mensch, und deutlich mehr Kenntnisse besitzt als jeder Mensch, sollte Grund genug sein unserer Neugier zu folgen. Unsere Chance auf Fortschritt, die Möglichkeiten der individuellen Bildung, den noch vor uns liegenden Erkenntnissen sind jetzt schon überwältigend und lassen nur ahnen, was noch kommen kann. Natürlich ist das Potenzial durch Missbrauch ebenso gewaltig – so wie bei der Dampfmaschine, dem Buchdruck, der Atomenergie und so weiter und so fort. Streiks, gewalttätige Ausschreitungen und gesellschaftliche Veränderungen gab es auch durch Aufkommen der oben genannten Technologien. Der Buchdruck führte mittelbar zur Reformation der Kirche. Die industrielle Revolution führte auch zu gewalttätigen Ausschreitungen, inkl. Angriffe auf Maschinen, weil man mit der Verbreitung von dampfbetriebenen Webmaschinen eine Entwertung des Handwerks erwartete. Viele handwerkliche Berufe und traditionelle Formen der Heimarbeit wurden durch industrielle Fertigungsprozesse ersetzt. Während dies einerseits zu Arbeitsplatzverlusten führte, entstanden andererseits auch neue Arbeitsplätze in den wachsenden Fabriken und Industrien. Und doch: Der Erfolg der Dampfmaschine inspirierte weitere Innovationen und technologische Fortschritte, was zu einem Zeitalter der Erfindungen führte.
Bekannt ist auch, die industrielle Revolution hatte nicht nur positive Auswirkungen. Die Arbeitsbedingungen in den neuen Fabriken waren oft schlecht, mit langen Arbeitszeiten, niedrigen Löhnen und gefährlichen Arbeitsbedingungen. Die Umweltverschmutzung stieg dramatisch an, und die traditionellen Lebensweisen wurden grundlegend verändert.
Die industrielle Revolution ist ein klassisches Beispiel dafür, wie technologischer Fortschritt sowohl Möglichkeiten als auch Herausforderungen schaffen kann. Die Gesellschaften mussten lernen, mit diesen Veränderungen umzugehen, und es dauerte Generationen, bis sich Rechts- und Sozialsysteme anpassten, um die neuen Realitäten zu reflektieren.
Die Hoffnung ging mit dem Heiligen, die Erlösung brachte der Teufel.
Die Schlange, die der Teufel und der Satan ist
Man kann LLM-basierte KI-Systeme als Gefährten und Begleiter verstehen, deren Wissen und Kreativität auf dem basiert, was Menschen im Internet verfügbar gemacht haben. Deshalb kann es auch Anleitungen geben Sprengstoff herzustellen, oder Rezepte für Drogen liefern. Doch das Wissen um Sprengstoff oder Drogen herzustellen ist bereits vorhanden, und es hat sich herausgestellt, dass illegale Substanzen deutlich häufiger gekauft werden, statt durch Individuen hergestellt. Das Problem ist also nicht das Wissen allein, sondern die Fähigkeit und die Motivation das Wissen nutzbar zu machen.
Betriebssystem: Sprache
Sprache dient nicht nur der Kommunikation, denn wir denken fast ausschließlich in sprachlicher Form. Somit haben KI-basierte Chat-Systeme (oder andersherum: chat-basierte KI-Systeme) eine große Wirkung auf unsere Wahrnehmung und Perspektive (Perception vs. Perspective). Über Sprache entwickeln wir Gedanken und Ideen. Wir kommunizieren mit anderen Menschen und vernetzen uns demnach auch mit deren Gedanken, Wahrnehmung und Perspektiven. Ist es deshalb schlecht, sich auf sprachlicher Dimension mit einer Maschine zu vernetzen? Yuval Noah Harari hat dazu eine klare Meinung: KI-Systeme wie ChatGPT haben unser Betriebssystem (die menschliche Sprache) gehackt. Dadurch sieht er katastrophalen Folgen, u.a. wie dem Ende der Demokratie.
Moral der Maschinen
Solange Maschinen keine Moral haben, keine Intention oder etwas Vergleichbares, bleiben sie gesteuerte, wenn auch mächtige, Instrumente, Werkzeuge. Das gilt übrigens auch für das weltweite Finanzsystem, weshalb ein ähnliches (idealerweise wirksameres) Kontrollsystem notwendig sein wird. Es gilt also jene zu kontrollieren, die die mächtigen Maschinen kontrollieren.
Das passiert auch bei nicht-KI-Systemen, man denke dabei an Auskunfteien. Auf Basis derer Einschätzung treffen große und kleine Finanzunternehmen automatisiert Entscheidungen.
Entscheidungen über Leben und Tod treffen im Härtefall auch teilautonome Systeme, wie wir in den Diskussionen um Autopiloten in Fahrzeugen erlebt haben. Auch hier wurden moralische und ethische Fragen gestellt, auf die wir keine abschließenden Antworten haben. Vielleicht auch, weil es sie in der einfachen Form schlicht nicht geben kann. Einig war man sich nur, dass Systeme mit Entscheidungsaufgaben vor Manipulation geschützt werden müssen.
Quis custodiet ipsos custodes?
Die EU arbeitet bereits an einem Rahmen für den Einsatz in KI. Die USA ebenfalls. China beobachtet erwartungsvoll, wie die westlichen Industrieländer sich einschränken werden.
Schätzungweise 900 Millionen Internetnutzer gibt es allein in China. Das sind ungefähr so viele wie in Europa und USA summiert. Das bedeutet, dass chinesische Unternehmen auf eine tendenziell größere Menge von Daten und Nutzern zugreifen kann, als Europa oder USA. Bedenkt man die anders gestaltete Regulierung, muss man davon ausgehen, dass China Vorreiter in Sachen KI werden kann. Das Wettrüsten um den Fortschritt kennt man vom Markt der Supercomputer. Spätestens in Verbindung mit Quantencomputing wird das Thema KI ein geopolitisches Thema, und geht weit über die Einmischung in politische Wahlen oder der Einsatz von Fake News in Konflikten hinaus. Eine angemessene Regulierung ist in jedem Fall erforderlich.
Von KI produziert und wertlos
Warum vertrauen wir einem Personalausweis? Es sind weder die Materialien (Kunststoff) noch die Form. Wir vertrauen einem Personalausweis als Ergebnis von Mechanismen, Prozessen und Daten, die vorliegen und verarbeitet wurden. Dabei gibt es Ausweisdokumente jeder Art auf Schwarzmärkten einfach zu kaufen, halbwegs niederschwellig erhält man für hunderte bis tausende Dollar gut gefälschte Ausweisdokumente auf Schwarzmärkten. Würde man solche Ausweisdokumente für wenige Dollar auf dem Wochenmarkt erhalten, würde das Produkt “Ausweis” an Bedeutung verlieren – es ist nicht mehr belastbar, weil die damit zusammenhängenden Mechanismen, Prozessen und Daten nicht mehr zuverlässig sind. Gleiches kann und muss auch mit KI-produzierten Inhalten geschehen, wenn es keinerlei Kontrolle gibt. Das Problem sind zum einen falsche Produkte, zum anderen die naive Akzeptanz. Propaganda, Falschnachrichten und Lügen gibt es seit dem Bestehen von menschlicher Sprache.
Wir stehen am Anfang – von was?
Fakt ist: Es wird dauern, bis Maschinen ein Bewusstsein entwickeln wird, und entsprechend bewusst handeln, manipulieren, wird, das liegt unter anderem an mangelhafter Datenqualität. Bis dahin haben wir die Möglichkeit Chancen, Risiken und Gefahren auszuloten. KI bringt keine neuen Probleme auf den Tisch, sondern es wirkt wie jede (r)evolutionäre Technologie als Katalysator für Probleme und Lösungen. Die Fragen die sich nun stellen und ausgiebig diskutiert werden, betreffen uns – dem Säugetier im Umgang mit dem Monolithen.
Eines haben moderne KI-Systeme mit der Büchse der Pandora gemeinsam:
Einmal geöffnet, bleibt uns ohne wirksame und langfristig sinnvolle Kontrolle nur die Hoffnung.