»Denn sie weiß nicht, was sie tut.«

»Schon bald, sagen die Fachleute, werden Computer wie ein menschliches Gehirn funktionieren.« So beginnt in der ZEIT vom 30.3.23 eine 6-seitige Dokumentation über die nahe Zukunft der Menschen unter den Folgen der sich (un)heimlich etablierenden Macht der künstlichen Intelligenz (KI). Wie die FAZ v. 12.4.23 berichtet, hat ChatGPT des US- Tech-Unternehmens OpenAI in China einen KI-Goldrausch ausgelöst. »Selbst kleine Start-ups basteln an KI-Anwendungen. Doch das Regime will Produkte, die “sozialistische Werte“ verinnerlichen«. Im Zuge eines Machine-Learning (ML) wird ein mehrschichtiges neuronales Netzwerk – »eine oberflächliche Nachahmung der Struktur der Großhirnrinde des menschlichen Gehirns« – durch Menschen mit Millionen Informationen und Bildern versorgt, von deren Umfang weder die Computer (Blackbox-Phänomen) und noch weniger die daran tätigen Menschen eine Ahnung haben.

»Noch vor wenigen Monaten«, schreibt die ZEIT, »war das Unternehmen OpenAI nur den Kennern des Silicon Valley vertraut.« In dem Beitrag zitieren die Autoren den Chef von OpenAI, Sam Altman: »Der technologische Fortschritt, den wir in den nächsten hundert Jahren machen, wird weit größer sein als alles, was wir seit der Erfindung des Rades und der Kontrolle des Feuers erreicht haben.« Unter der Überschrift »Die große KI-Panik« warnen Julian Nida-Rümelin und Nathalie Weidenfeld in der Süddeutschen vom 11.4.23 – mit den Argumenten »Chat-GPT ist […] eine gigantische Plagiatsmaschine […] Das System [verfügt] nicht über Begriffe, es hat keine Semantik« – davor, in »apokalyptische Visionen zu verfallen« und wenden sich gegen den offenen Brief, mit dem führende Wissenschaftler, Unternehmer wie Elon Musk, aber auch der Autor von »Homo Deus«, Yuval Noah Harari, ein »Moratorium« von staatlicher Seite für weitere KI-Forschung fordern.

Simon Hurtz notiert in der Süddeutschen vom 9.4.23 in seinem Essay »Die größte Gefahr an KI ist der Mensch«: »KI braucht kein Bewusstsein für eine Revolution – und wir sind noch nicht darauf vorbereitet.« Zu allem, was KI nicht beherrscht, gehöre ein »noch«, so Hurtz, denn bald könnte es anders sein. »KI darf den Menschen nicht ersetzen«, sagt der Deutsche Ethikrat. Hurtz: »Das ist richtig, aber leider Wunschdenken.« Seine Prognose: »Manche Programmierer, Anwältinnen, Mathematiker:innen, Dolmetscher und Journalisten müssen sich darauf einstellen, dass sie entweder mit KI arbeiten – oder gar nicht mehr.«

Die relativ schnelle Aufeinanderfolge der Chatbots 3/4 von OpenAI hat die allgemeine Diskussion über die Frage »Werden intelligente Maschinen die Welt erobern?« angefacht. Dabei existieren Chatbots seit den Sechzigern, als Joseph Weizenbaum, einer der Väter der künstlichen Intelligenz, das Programm Eliza vorstellte, das eine Psycho-therapeutin imitiert, worauf Markus Kneer unter der Überschrift »In der Maschine steckt kein Ich« schon am 28.7.2022 im Internet-Magazin republik.ch hinwies.

Für die Entwicklung der KI, so die Sozialwissenschaftlerin Kelle Howson in der ZEIT-Doku, müssen Millionen Digitalarbeiter im Clickworking und in Konkurrenz zueinander »sehr, sehr kleine und kurze Aufgaben erledigen, deren Bearbeitung zum Teil nur 30 Sekunden oder eine Minute erfordert.« Beispielsweise: Dies ist das Bild einer Katze, und dies ist kein Bild einer Katze. Manche Clickworker weinen drei Stunden, weil sie etwas Grausames, beispielsweise etwas Kinderpornografisches, gesehen haben. Sam Altman: »Ich denke, wir werden Hunderte Milliarden, ja Billionen Dollar an neuen Geschäften ermöglichen, weil wir eine so leistungsfähige künstliche Intelligenz haben werden, und eines Tages werden wir sozusagen die Nachkommen der Menschheit bauen und sie losschicken, um das Universum zu kolonisieren.«

»Wie schlau ist die intelligenteste der künstlichen Intelligenzen wirklich?«, fragt Marie-José Kollyin ihrem Beitrag »Was Chat GPT zum Problem macht« im Magazin republik.ch vom 11.4.23, und sie hat auch gleich die Antwort parat: »Gar nicht schlau, denn sie weiß nicht, was sie tut.« Chat GPT versteht nicht, was es schreibt. Kollyin zitiert die Computer-linguistin Lena Jäger: »Wir müssen uns umgewöhnen. Dass alles, was eloquent daherkommt, auch richtig ist, war zwar schon vor Chatbots nicht immer wahr, aber das ist selbst als Faustregel nicht mehr gültig.«

Für Holden Karnofsky, bis 2021 Vorstandsmitglied von OpenAI
(Simon Hurtz verweist in seinem Essay auf ein Interview von Kelsey Piper mit ihm) könnten wir Menschen, wenn es der KI gelingt, »all die Dinge zu automatisieren, die [bisher] Menschen normalerweise tun, um Wissenschaft und Technologie voranzubringen«, quasi über Nacht in einer »wilden Zukunft« landen. Karnofsky: »Ich denke, es ist dringend notwendig, dass die Menschen anfangen, darüber nachzudenken, wie ein gutes Regulierungssystem aussehen könnte. […] Ich denke, wir alle müssen sehr offen für die Idee sein, dass der nächste große Übergang – etwas so Großes und Beschleunigendes wie die Neolithische Revolution oder Industrielle Revolution oder größer – jederzeit kommen könnte.« – Und das ganz ohne irgendwelche Werte.