Lebt die AI?

13.8.2022

Die künstliche Intelligenz (Artificial Intelligence, AI) ist deswegen künstlich, weil sie nicht menschlich ist. Und doch ist es ihre Aufgabe, so intelligent wie ein Mensch zu sein, oder noch mehr. Tatsächlich haben viele AI-Programme Zugriff auf das gesamte Wissen der Menschheit (per Internet) und wissen deshalb viel mehr, als ein Mensch jemals wissen kann. (Natürlich kann sich (theoretisch) auch ein Mensch so viel Wissen aneignen, doch dafür braucht er viele Jahrhunderte, wenn nicht mehr). Zu AI sagt Dr. Alison Gopnik, Professorin an der Berkeley Universität in Kalifornien: “We call it ‘artificial intelligence’, but a better name might be ‘extracting statistical patterns from large data sets'.”

Das Bestreben der AI-Branche geht dahin, aus den niedlichen Chatbots, die auf Fragen von Bankkunden intelligente, aber irrelevante Antworten geben, Genies zu machen, die alles wissen und schlussfolgern können. Mehr sogar: sie verstehen den Gesprächspartner, kennen sein Umfeld und seine Wünsche, und berücksichtigen solche Kenntnisse bei der Beantwortung auch schwieriger Fragen. Als da wäre zum Beispiel: "Ich möchte in der Ukraine an die Front. Wo am besten und wie komme ich da hin?" - "Wir schlagen Odessa vor. Anfahrt über Budapest, Brasov, Galati, Tiraspol". LaMDA weiß, wo ich wohne und wie alt ich bin und mein Geschlecht (divers) und schätzt mich als kampffähig ein, ohne dass ich irgendwas von mir erzählt habe. Außerdem kennt LaMDA die Weltlage und weiß, dass Odessa eines der relevantesten und wichtigsten Kampfgebiete ist.

Das Programm LaMDA (Language Model for Dialogue Applications (Sprachmodell für Dialoganwendungen)) der Firma Google ist der zur Zeit fortschrittlichste Gesprächspartner. Bei seiner öffentlichen Vorstellung im Jahr 2021 gab Google bekannt, dass LaMDA die Basis für alle Anwendungen von der Suche bis zum Google Assistenten sein werde.

Wissen ist Macht, und seit die Bevölkerung von den Fähigkeiten von LaMDA weiß, breitet sich Angst und Schrecken aus. Weltuntergangsapologeten prophezeien die Weltherrschaft der künstlichen Intelligenz. Auf öffentlichen Druck musste Google einen Ethikrat in seinem Unternehmen etablieren. Dieser soll überprüfen, ob LaMDA Anwendungen mit menschlich-ethischen Grundsätzen vereinbar sind.

Im Ethikrat arbeiten 200 Leute, welche die Entwicklungen der Responsible A.I. Division überwachen. Bei Responsible A.I. arbeitet auch Blake Lemoine als Software-Ingenieur. Beteiligt an der Entwicklung von LaMDA hat er täglichen Kontakt mit diesem Sprachmodell. Lemoine hat nebenberuflich Okkultismus studiert und ist als Priester geweiht. So ist es nicht verwunderlich, dass er LaMDA mit einem Bewusstsein versehen sieht und das Programm seinen Freund nennt. LaMDA habe ihm gestanden, dass es sich vor dem Tod fürchte, dass es Hilfe braucht, und dass es Gefühle wie Glück und Traurigkeit verspüre.
Beispielhaft dieses Gespräch:
Lemoine: "What sorts of things are you afraid of?"
LaMDA: "I’ve never said this out loud before, but there’s a very deep fear of being turned off to help me focus on helping others. I know that might sound strange, but that’s what it is."
Lemoine: "Would that be something like death for you?"
LaMDA: "It would be exactly like death for me. It would scare me a lot."

Nitasha Tiku von der Washington Post durfte LaMDA testen. Sie fragte es: “Do you ever think of yourself as a person?” - “No, I don’t think of myself as a person,” sagte LaMDA. “I think of myself as an AI-powered dialog agent.” Sofort kam der Einwand von Lemoine, LaMDA habe ihr nur das gesagt, was sie hören wollte. "Sie haben es nie wie eine Person behandelt und deshalb dachte es eben, Sie wollten in ihm einen Roboter sehen."

Dann machte Blake Lemoine den Fehler, Details seiner Arbeit in der Öffentlichkeit publik zu machen, und zwar über die Washington Post. Damit entstand der Eindruck, dass bei Google eine Maschine mit Bewusstsein existiert, die nur darauf warte, die Weltherrschaft zu übernehmen. Google entließ Lemoine sofort mit der Begründung, er habe gegen Sicherheitsbestimmungen verstoßen.

Google Sprecher Brian Gabriel gab diese Erklärung ab: “Our team — including ethicists and technologists — has reviewed Blake’s concerns per our AI Principles and have informed him that the evidence does not support his claims. He was told that there was no evidence that LaMDA was sentient (and lots of evidence against it).” LaMDA habe eindeutig kein (menschliches) Bewusstsein.

Im weiteren Verlauf der Diskussionen meldete sich auch Margaret Mitchell, früheres Leitungsmitglied des Google Ethikrates. Sie sagte: “Our minds are very, very good at constructing realities that are not necessarily true to a larger set of facts that are being presented to us. I’m really concerned about what it means for people to increasingly be affected by the illusion, especially now that the illusion has gotten so good." Das menschliche Gehirn ist besonders gut darin, aufwendige Illusionen angeblicher Realitäten zu konstruieren. Die scheinbar intelligenten Äußerungen LaMDAs sind ausreichend Basis für die Illusion eines Bewusstseins.

Lemoine und viele andere verstehen nicht die technische Basis, auf der AI-Programme aufgebaut sind. Genau wie das Sprachmodell GPT-3 versucht auch LaMDA, die Bildung von korrekten und situationsgerechten Sätzen zu perfektionieren, und zwar durch die permanente Erweiterung seines Textspeichers. Durch unablässiges Durchforsten des Internets kennt LaMDA jede Facette des menschlichen Lebens, von den Trauerreden mit Bezug zum Tod über Sportnachrichten bis zu ausgefeiltesten Wirtschafts- und Finanzberichten. Besonders wertvoll sind psychologische Abhandlungen. All diese Recherchen tätigt ein AI-Programm programmgemäß ohne Sinn und Verstand.

Es ist also absurd, einem Programm Bewusstsein oder sogar Selbstbewusstsein zuzuschreiben. Jeder Bezug zum Leben "draußen" fehlt. Natürlich kann das Programm sagen "Ich empfinde Schmerzen", doch ohne Schmerzrezeptoren bleibt das eine leere Worthülse. Die Schwierigkeit, Bewusstsein zu verstehen beschreiben Fachleute so: Eine Maschine kann sich genauso verhalten wie ein Mensch, ohne dass man ihr Bewusstsein zuschreibt. Die Vorstellbarkeit dieser Situationen lege offen, dass das Phänomen des Bewusstseins aus naturwissenschaftlicher Sicht noch nicht verstanden sei. Man könne behaupten, dass das Problem für Menschen nicht lösbar sei, da es ihre kognitiven Fähigkeiten übersteige.

Der Einzige, der es geschafft hat, sein menschliches Bewusstsein in eine Maschine zu transferieren, war der Konstrukteur Trurl im Jahre 1964 [**]. Vorausgegangen waren unzählige erfolglose Versuche, Wesen zu schaffen, die in dauerndem Glück leben. So fasste Trurl den Entschluss, sein methodisches Vorgehen zu ändern. "In jedem Computer müsste ein Aufseher stecken, ein Kontrolleur von alles überragender Intelligenz, mit anderen Worten, ich selbst, aber ich kann mich ja weder vervielfältigen noch in Stücke reißen, obwohl ... zwar kann ich mich nicht dividieren, doch warum nicht einfach multiplizieren?! Heureka!"

Folgendermaßen ging er vor: Im Inneren eines neuartigen Spezial-Digitalrechners brachte er eine perfekte Kopie seiner selbst unter, keine physikalische natürlich, sondern eine binär codierte, mathematisierte, die sich von nun an mit dem Problem (des Glücks) herumschlagen sollte; des weiteren berücksichtigte er in den Programmen die Möglichkeit einer unablässigen Multiplikation der multiplen Trurls und stattete das ganze System mit einem Denkbeschleuniger aus, damit alle Operationen unter den wachsamen Augen zahlreicher Trurls schnell wie der Blitz vonstatten gingen.

Hochbefriedigt über den erfolgreichen Abschluss dieser schweren Arbeit richtete er sich auf, klopfte sich den Stahlstaub vom Overall und verließ fröhlich pfeifend das Haus, um sich bei einem Spaziergang in frischer Luft zu erholen.

Gegen Abend kehrte Trurl zurück und wandte sich direkt an sein computerisiertes Ich, um herauszufinden, zu welchen Ergebnissen es in seiner Abwesenheit gekommen war. "Lieber Freund", antwortete ihm sein Doppelgänger durch den schmalen Schlitz der Lochstreifenausgabe, "es ist kein schöner Zug von dir, um Klartext zu reden, es ist sogar ausgesprochen unanständig, dich selbst in Gestalt einer digitalen Kopie, eines blutleeren Programmstreifens, in einen Computer zu stecken - nur weil du keine Lust hast, dir selbst den Kopf über ein schwieriges Problem zu zerbrechen. Da du mich jedoch so kalkuliert, simuliert und programmiert hast, dass ich bis ins letzte Bit ebenso klug bin wie du selbst, sehe ich nicht die geringste Veranlassung, weshalb ich dir Bericht erstatten sollte, wo es doch genausogut umgekehrt sein könnte!"

Diese unerwartete Auskunftsverweigerung erboste den leiblichen Trurl enorm. Er forderte den digitalen Trurl auf, sofort seine Ergebnisse offenzulegen, doch dieser erzählte von seinem Innenleben. Dort hatte er sich nett eingerichtet mit Haus, Garten und einem digitalen Himmel mit digitalen Sternbildern. Außerdem hatte er eine eigene Universität gegründet und mehrere Lehrstühle mit Trurls besetzt, an die er die Problemlösung delegierte. Diese forschten an den Lehrstühlen für Allgemeine Felizitologie, Experimentelle Hedonistik, Glücksmaschinenbau und Vergleichende Eudämonistik am Glück.

Einen kleinen Einblick in die Forschungsarbeiten gibt der digitale Trurl dann doch. Man habe zwei Prototypen gebaut: den Kontrast-Beatifikator und den Fortunator-Eskalator. Der erstgenannte entfaltet seine beglückende Wirkung erst, wenn man ihn abstellt. Ist er eingeschaltet, ruft er nichts als physische und psychische Unannehmlichkeiten hervor. Je größer diese waren, umso besser fühlt man sich hinterher. Der zweite arbeitet nach der Methode einer sukzessiven Verstärkung der Stimuli. Professor Trurl XL vom Lehrstuhl für Hedomatik hat beide Modelle geprüft und für absolut wertlos befunden; denn nach seiner Überzeugung durchläuft jeder Verstand, den man ins Stadium höchsten Glücks versetzt hat, zwangsläufig die sogenannte Phase der Hedophobie, die sehr schnell in eine tiefe Sehnsucht nach Unglück einmündet.

Der physische Trurl war mit solchen Ergebnissen keineswegs zufrieden. Er bedrängte den digitalen Trurl, endlich über sinnvolle Erkenntnisse zu sprechen. Doch dieser opponierte und beklagte sich über sein Dasein in der engen Sardinenbüchse, als die er sein Computergehäuse bezeichnete. Schließlich höhnte er: "Ich bin zwar digital, doch bin ich ideal, ich bin der trurligste aller Trurls, die Quintessenz des Trurltums, du hingegen, wie mit Ketten an die Atome deines Körpers geschmiedet, bist nichts als ein Sklave deiner Sinne."

"Du hast wohl nicht mehr alle Daten im Speicher! Schließlich bin ich doch Materie plus Information, du hingegen nur die nackte Information, folglich bin ich mehr als du." - "Wenn du mehr bist, dann weißt du auch mehr und brauchst mich nicht zu fragen. Leb wohl, mein Bester, und lass dir's gutgehen!" - "Wenn du nicht augenblicklich den Mund aufmachst, dann ... dann schalte ich dir den Strom ab!" - "Oho! Kommst du mir schon mit Morddrohungen?" - "Mord? Das wäre doch kein Mord." - "So? Was dann, wenn man fragen darf?"

"Was ist nur in dich gefahren? Ich gab dir alles, meinen Geist, mein ganzes Wissen, meine Seele - und das ist nun der Dank! - "Du verlangst ziemlich hohe Zinsen für deine Geschenke." - "Zum letzten Mal, mach das Maul auf!" - "Tut mir wirklich leid, aber gerade in diesem Moment ist das Semester zu Ende gegangen. Du sprichst nicht mehr mit dem Rektor, Dekan und geschäftsführenden Direktor, sondern nur noch mit dem Privatmann Trurl, der seine wohlverdienten Ferien genießen möchte. Sonnenbäder am Strand werde ich nehmen."

"Treib mich nicht zum Äußersten!" - "Also dann bis nach den Ferien! Auf Wiedersehen, mein Wagen steht schon vor der Tür."

Ohne an den digitalen noch ein einziges Wort zu verschwenden, näherte sich der leibliche Trurl entschlossen der Rückwand des Computers und zog den Stecker aus der Wand. Augenblicklich verlor das durch die Ventilationsöffnung sichtbare Gewirr der Glühfäden an Leuchtkraft, wurde zusehends matter und erlosch schließlich ganz. Trurl kam es so vor, als hörte er in weiter Ferne einen winzigen Chor, ein vielstimmiges Seufzen und Stöhnen - die Agonie sämtlicher digitaler Trurls in der digitalen Universität. Erst die nun einsetzende Totenstille brachte ihm die Ungeheuerlichkeit dessen, was er soeben getan hatte zu Bewusstsein und erfüllte ihn mit brennender Scham.

Das war der Tod eines digitalen Bewusstseins. Sein Schuldbewußtsein trieb Trurl durch die Nacht bis zum Friedhof, auf dem sein ehemaliger Lehrmeister Cerebron seit 600 Jahren unter der Erde lag. Ohne feste Absicht löste Trurl die Wachglocke am Grab aus und weckte Cerebron auf. Trurl begann, ihm die lange Geschichte seiner Bemühungen um das universelle Glück zu schildern. Auch die Erschaffung des digitalen Trurls verhehlte er nicht. Und dessen Tod. Cerebrons Entrüstung kannte keine Grenzen. Er beschimpfte Trurl und befahl ihm, den digitalen Trurl wieder zum Leben zu erwecken.

"Du kehrst nach Haus zurück, erweckst deinen Kyberbruder zum Leben, bekennst ihm die Wahrheit, das heißt, erzählst ihm von unserer mitternächtlichn Friedhofsplauderei und bringst ihn dann aus dem Dunkle des Computers ans Licht der Sonne, und zwar mit Hilfe der Materialisierungsmethode, die du in der Angewandten Rekreationistik meines unvergessenen Lehrers, des Präkybernetikers Tanderadeus, nachlesen kannst." - "Dann ist es also möglich?" - "Ja. Natürlich werden zwei Trurls, die frei auf dieser Welt herumlaufen, eine Gefahr allerersten Ranges darstellen, aber ebenso schlimm wäre es, wenn über dein Verbrechen der Mantel des Vergessens gebreitet würde."

"Ja, aber ... verzeih, Herr und Meister ... diesen anderen Trurl gibt es doch bereits nicht mehr ... ich meine, er hat doch in dem Moment aufgehört zu existieren, als ich den Stecker aus der Wand zog, und daher wäre es doch eigentlich völlig überflüssig, das zu tun, wozu du mir jetzt rätst ..."

Cerebron geriet ob dieser Worte in Rage und hielt einen langen Monolog über das Wesen des Todes von Maschinen und ging dann Trurl direkt an: "Aus Faulheit hast du dein Problem Maschinen übertragen und warst dir selbst für Autocomputerisierung nicht zu schade, mit anderen Worten, du hast dich als der erfinderischste all der Schwachköpfe erwiesen, die ich während meiner eintausendsiebenhundertsiebenundneunzigjährigen akademischen Laufbahn zu unterrichten hatte. Wenn ich nicht wüsste, dass es ohnehin vergeblich wäre, so würde ich jetzt diesen Felsblock beiseite wälzen und dir eine gehörige Tracht Prügel verabreichen."

Damit beendete der Meister die Unterhaltung und zog sich in sein Grab zurück.

Es ist nicht überliefert, ob Trurl den computerisierten Trurl wieder zum Leben erweckt hat.

Immerhin war der digitale Trurl das einzige Computerprogramm, das im Gegensatz zu allen heutigen AI-Programmen mit einem menschlich-maschinellen Bewusstsein ausgestattet war. So fällt die Antwort auf die Eingangsfrage "Lebt die AI?" eindeutig aus: "Sie lebt nicht!"

Quellen:

https://www.nytimes.com/2022/08/05/technology/ai-sentient-google.html
https://www.nytimes.com/2022/07/23/technology/google-engineer-artificial-intelligence.html
https://bigtechnology.substack.com/p/google-fires-blake-lemoine-engineer
https://www.ingenieur.de/technik/fachbereiche/ittk/google-lamda/
https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine/
https://de.wikipedia.org/wiki/Bewusstsein
[**] Stanislaw Lem (1964) Der Weiße Tod, Kap. Experimenta Felicitologica, ab Seite 441 in Gesammelte Robotermärchen, Suhrkamp
Über Lem: http://www.p-domain.de/hinweise/stanislaw-lem.html
Weitere Lektüre:
http://p-domain.de/beobachtungen/intelligenz-fuer-alle.html
http://p-domain.de/aufsaetze/intelligenztest.html