The Coming Wave

Künstliche Intelligenz, synthetische Biologie, deren positiven wie negativen gesellschaftlichen Auswirkungen, die Eindämmung der extrem negativen Folgen und bescheidene Lösungsvorschläge, das sind die Themen dieses Buches.

Künstliche Intelligenz

Autor diesses Buchs ist Mustafa Suleyman, ein Tehnik-Fan, Mitbegrüner der Firma DeepMind, die Furore machte, als ihr System den weltbesten südkoreanischen Go-Spieler Lee Sedol (März 2016) mit nie dagewesenen Spielzügen geschlagen hat.

Das Buch lässt die Begeisterung eines Entwicklers spüren, der seinen Job liebt, von Anfang an dabei war und sich gut auskennt:

• Die KI-Technik wird immer schlauer.
• Sie wird menschenfreundlicher, kann sich auf ihre Benutzer einstellen und Gefühle zeigen.
• Sie soll sogar eigene Kreativität entwickeln können.
• Persönliche Agenten, die man mit allen Lebensfragen behelligen kann, sind erst der Anfang. Sie werden sich zu handelnden Agenten weiterentwickeln, d.h. schrittweise dazu übergehen, immer mehr Aufgaben zu übernehmen und selber darauf kommen, was als Nächstes zu tun ist.
• Diese Agenten können miteinander kooperieren und selber auswählen, wer von ihnen welche Aufgabe am besten erledigen kann.

Die KI-Technik ist universell, wird viele Anwendungsbereiche durchdringen, und darin ist der Grund zu suchen, dass die Verbreitung der Technik nicht aufhaltbar ist. Sie wird sich von der Allgemeinen Generativen Intelligenz (AGI Artificial Generative Intelligence) zur ACI (Artificial Capable Intelligence) entwickeln, d.h. zu künstlichen Agenten, die dank ihrer Algorithmen immer mehr Aufgaben selber übernehmen und sogar gegenseitig Aufgaben untereinander verteilen. Damit werden sich immense Automatisierungsmöglichkeiten auftun.

Synthetische Biologie

Walter Isaacson schreibt in seinem Buch The Code Breaker, einer Biographie über Jennifer Doudna, eine der beiden Entdeckerinnen der Gen-Schere, unser Zeitalter als die Epoche des Gens, nach den Epochen des Bits und des Atoms. Diese Erfindung, wissenschaftlich als CRISPR-Cas9 bezeichnet, erlaubt weitgehende Manipulationen der DNA jedweden Lebewesens, ebenso wie der RNA eines Virus beispielsweise durch Herausschneiden von Gen-Sequenzen und Ersetzen durch andere Molekülketten. Ein neues Eldorado der Medizin und Pharma-Industrie tut sich auf, vom Ausschalten schädlicher Erbfaktoren bis zum Versprechen zwar noch nicht ewiger aber lang anhaltender Jugend.

Zur wahren Entfaltung kommen die gentechnischen Möglichkeiten aber erst durch ihre Verbindung mit Künstlicher Intelligenz. Millionen neuer Protein-Moleküle, neue Medikamente und Impfstoffe lassen sich entdecken und konstruieren. Und das alles im Vergleich zu den milliardenteuren Serverfarmen der Künstlichen Intelligenz mit vergleichsweise wenig finanziellem Aufwand. Ungeahnte Quellen eines grenzenlos erscheinenden Wohlstands werden sichtbar.

Die Kehrseite

Nicht jeder wird die utopisch-optimistische Sicht des Autors teilen. Man kann dagegen halten, dass alles, was die Künstliche Intelligenz an Menschlichkeit aufzubieten hat, nichts weiter ist als Simulation. Die Technik verfügt über keine autonome Wahrnehmung, sie fühlt nichts und weiß im wahrsten Sinne des Wortes nicht, was sie tut. Sie hat keinen eigenen Willen und kann auch keine autonomen Entscheidungen treffen. Das wird sich auch nicht mit noch mehr big data, noch mehr Rechner-Power und noch mehr big money ändern. Die KI-Technik verfügt über kein eigenes mit uns Menschen vergleichbares Bewusstsein und wird es auch niemals erlangen. Bewusstsein wird sich auch nicht eines Tages automatisch ergeben, sozusagen als spin off immer größer werdender Komplexität, wie viele Technik-Enthusiasten meinen. Das schreibt der Autor natürlich nicht.

Man kann in der durchtechnisierten Welt auch eine Dystopie sehen, eine Welt, in der echte soziale Kontakte leise verschwinden und Menschen immer abhängiger von ihren Maschinen werden. Auch das schreibt der Autor nicht.

Suleyman sieht durchaus die Kehrseite der immensen technischen Möglichkeiten. Ganze Seiten seines Buches widmet er der Beschreibung großen Elends durch massenhafte Arbeitslosigkeit und tiefe Armut, das bisher immer neue Technikwellen begleitet hat. Ganz eindringlich schildert er diesen Sachverhalt am Beispiel der Luddisten, einer Maschinensturm-Bewegung am Anfang des 19. Jahrhunderts in England. Sie zerstörten mechanische Webstühle und andere Maschinen, um gegen die durch die industrielle Revolution ausgelöste Automatisierung und die damit verbundenen sozialen und wirtschaftlichen Elends-Zustände zu protestieren. Die Bewegung wurde damals durch äußerst harte Repressionen unterdrückt.

Alles das müsse sich nicht wiederholen. Das Zauberwort heißt Containment, Eindämmung der negativen Folgen, volle Konzentration auf die doch so deutlich sichtbaren guten Seiten der Technik. Aber mit der Künstlichen Intelligenz gibt es ein großes Problem, von Suleyman als das Dilemma unseres Jahrhunderts bezeichnet: die Angst vor der Verselbständigung der Technik, die Angst vor ihrem out of control.

Und diese Gefahr potenziert sich noch durch die Verbindung Künstlicher Intelligenz mit der synthetischen Biologie. Mit derselben Technik lassen sich schließlich nicht nur von der Pharma-Industrie als segensreich bezeichnete neue Medikamente herstellen, sondern auch brandgefährliche Viren. Während bei der Gefährdung durch die nukleare Enregie der immens hohe Aufwand einen gewissen Schutz vor dem Atomtod darstellt, verhält es sich hier anders. Ein Verrückter kann für wenige Tausend Dollar sich das Equipment beschaffen, um in seinem Keller-Labor eine weltweite Katastrophe auszulösen, z.B. durch hochtoxische Viren.

Das Versagen der Politik

Schon sind wir bei dem zweiten Teil von Suleymans Buch: Der Unfähigkeit der Nationalstaaten, die drängenden Probleme unserer Zeit zu lösen. Suleyman sieht gerade die liberaldemokratischen Staaten bedroht von einer schleichenden Erosionsgefahr. Er vermisst staatliche Aktivitäten, die dem Ersetzen menschlicher Arbeit in weiten Feldern entgegenwirken können, denn die KI wird auch vor kognitiver Arbeit nicht Halt machen. Keine rosige Vision für die nächsten Jahrzehnte. Die Automatisierung wird eindeutig zum Fragilitätsverstärker.

Neue Arbeisplätze werden nicht dort in nötiger Zahl entstehen, wo Arbeisplätzet wegfallen. Allenorts wird es an den erforderlichen Qualifikationen mangeln. Da rettet auch kein bedingungsloses Grundeinkommen, Stolz und Würde ehemals arbeitender Menschen bleiben dabei auf der Strecke und können schnell zum Treibsatz sozialer Unruhen werden.

Die ungeheuerlich gesteigerte Überwachungsmöglichkeit zahlreicher werdender digitalisierter Vorgänge wirkt als „Raketentreibstoff für den Autoritarismus“. Schon jetzt zeichnet sich ein Trend ab, KI-Systeme immer mehr wichtige Entscheidungen mit offenkundigen politischen Auswirkungen treffen zu lassen. Eine weitere Zentralisierung der Macht scheint unabwendbar, das Versprechen einer scheinbaren Sicherheit um den Preis der Freiheit.

Eine fehlgeleitete Entwicklung der synthetischen Biologie ist in der Lage, schnell zu wachsender Ungleichheit zu führen, z.B. wenn wenige genügend reiche Menschen ihr Verbesserungspotenzial in genetischen Manipulationen nutzen können: die Errichtung eines Biohacker-Paradieses für mutierte Menschen mit bisher unerreichten körperlichen und geistigen Fähigkeiten. Kaum auszudenken, was passieren wird, wenn jedes halbwegs fähige Labor, wenn jeder Hacker komplexe DNA-Stränge synthetisieren kann? Wir wissen zwar immer noch nicht, was Leben ist, aber wir haben eine hohe Expertise entwickelt, bestehendes Leben gründlich zu vermurksen - das sagt der Autor nicht so drastisch, aber dieser Gedanke drängt sich förmlich auf.

Genug der Horrorbeispiele. Die Eindämmung missbräuchlicher und nicht mehr kontrollierbarer Nutzung, das sog. Containment, wird zum existenziellen Problem für die Zukunft der Menschheit.

Und die Rettung?

Katastrophale Ereignisse, die sich früher über Jahre und Jahrzehnte hinzogen, können heute auf Knopfdruck innerhalb von Minuten geschehen - man denke nur an einen Zusammenbruch der intransparent gewordenen internationalen Finanzwirtschaft oder an eine künstliche Pandemie mit supertoxischen Viren.

Nach der eindrucksvollen Schilderung politischer Unfähigkeit maroder werdender Nationalstaaten verwundert es schon, wenn man auf Seite 241 lesen kann, dass die einzige Entität, die prinzipiell in der Lage ist, diese existenzielle Zwickmühle zu überwinden, das derzeit zerfallende System der Nationalstaaten sei.

Es heißt zwar, Regulierung reiche nicht, abder dann folgt ein kräftiges Plädoyer für eben diese Regulierung, nur eine Nummer größer, auf übernationaler Ebene. Ein Apollo-Programm für technische Sicherheit, begleitet von ständigen Audits wegen der allzu schnellen technischen Veränderungen, wo auch mal ein Moratorium helfen soll, um Zeit zu gewinnen, wenn einmal zuviel Neues in der Pipeline ist. Ein demokratisches Welt-Institut für KI, eine Ethik-Charta, die jedes Unternehmen in seine Rechtsstruktur einbauen soll und eine kritische Haltung der Technik-Macher, die ja nicht alles machen müssen, was machbar ist. Und nicht vergessen: „Wir tragen eine große Verantwortung dafür, dass die Anpassung nicht nur in eine Richtung geht“ (S. 331).

Die Vorschläge Suleymans lassen wenig Licht am Ende des Tunnels erahnen. Sie hinterlassen eher eine Atmosphäre der Hilflosigkeit, der Ohnmacht, und das erzeugt Angst, lässt an die mystische Figur der Pandora und ihrer Büchse denken.

Zur Erinnerung: Der griechischen Mythologie zufolge wurde Pandora von den Göttern erschaffen, um die Menschen zu bestrafen, aus Zorn über deren verbotenen Erfindergeist (Der ungehorsame Prometheus hatte gegen den ausdrücklichen Willen von Göttervater Zeus den Menschen das Feuer gebracht). Pandora erhielt von den Göttern eine Büchse, die sie nicht öffnen sollte. Die Büchse war gefüllt mit allen Übeln der Welt, mit Krankheit, Hunger, Neid, Leid und Tod. Ausgerechnet die Neugier trieb die schöne und kluge Pandora dazu, die Büchse zu öffnen. Die Übel entfleuchten und verbreiteten sich über die ganze Welt.

Es half nichts mehr, den Deckel zu schließen. Der Preis für die fortschrittstreibende Neugier war hoch. Es blieb nur noch die Hoffnung. Ist das The Coming Wave?

Eine letzte Frage noch

Lieber Mustafa Suleyman, du hast sehr anschaulich beschrieben, dass beim Verkauf von der von dir mitgegründeten Firma DeepMind an Google nichts daraus geworden ist, die hehren Ethik-Grundsätze von DeepMind in das Google-Regularium einzuzbauen. Dir ist sicher auch der Exodus gewissenhafter Ingenieure, Wissenschaftler und Manager von OpenAI nicht verborgen geblieben. Du hast ein wichtiges und kritisches Buch geschrieben.

Erkläre uns bitte, was dich bewogen hat, ein halbes Jahr später, im März 2024, den Job des CEO von Microsofts KI-Sparte zu übernehmen, ausgerechnet Microsoft, das wie kaum ein anderes Unternehmen für business first steht.

Hier lesen, was ChatGPT 4.o über das Buch von Mustafa Suleyman schreibt.