KI-Utopia: Vom Traum zur Möglichkeit?

Im Oktober 2024 veröffentlichte Dario Amodei, der CEO von Anthropic und einer der einflussreichsten Stimmen in der KI-Sicherheitsforschung, einen Essay mit dem Titel »Machines of Loving Grace«. Auf fünfzehntausend Wörtern skizzierte er eine Vision, die selbst eingefleischte Optimisten überraschte: eine Welt, in der KI den medizinischen Fortschritt eines Jahrhunderts in fünf bis zehn Jahre komprimiert, in der psychische Erkrankungen wie PTSD und Depression heilbar werden, in der Armut der Vergangenheit angehört. Amodei, bekannt für seine nüchterne Einschätzung existenzieller Risiken, schrieb von einer Zukunft, die er für erreichbar hält, vielleicht schon ab 2026.

Der Essay war bemerkenswert, nicht nur wegen seines Inhalts, sondern wegen seines Absenders. Wenn jemand, der hauptberuflich über die Gefahren superintelligenter Systeme nachdenkt, derart optimistisch über deren Potenzial schreibt, dann verdient das Aufmerksamkeit. Aber Amodei steht nicht allein. Von Silicon Valley bis zu den Feuilletons zirkuliert eine Idee, die vor wenigen Jahren noch als naive Fantasie abgetan worden wäre: die KI-Utopie, eine Gesellschaft, in der künstliche Intelligenz die materiellen Grundlagen menschlichen Leidens beseitigt und uns frei macht für das, was wirklich zählt.

Die Frage, die mich beschäftigt, ist nicht, ob diese Vision schön klingt. Natürlich tut sie das. Die Frage ist, ob sie mehr ist als ein technologisch aufgeladener Tagtraum, ob sie in irgendeiner Form erreichbar sein könnte und zu welchem Preis. Um das zu verstehen, lohnt sich ein Blick zurück, fünfhundert Jahre zurück, zu den Ursprüngen des utopischen Denkens selbst.

Ein Wort, das »Nirgendwo« bedeutet

Im Jahr 1516 veröffentlichte der englische Staatsmann und Humanist Thomas More ein Buch über eine fiktive Insel namens »Utopia«. Der Name war ein Wortspiel aus dem Griechischen: »ou-topos« bedeutet »kein Ort«, »eu-topos« bedeutet »guter Ort«. Die Ironie war beabsichtigt. More beschrieb eine Gesellschaft ohne Privateigentum, ohne Geldwirtschaft, mit religiöser Toleranz und einer Arbeitsteilung, die allen Bürgern Muße ermöglichte, und er tat dies mit einem Augenzwinkern, das die Leser darauf hinwies, dass ein solcher Ort nirgendwo existierte.

Mores Buch begründete ein Genre. Von Platons »Staat« rückwirkend als Utopie klassifiziert über Campanellas »Sonnenstaat« bis zu den sozialistischen Utopien des 19. Jahrhunderts zieht sich eine Linie des Nachdenkens über ideale Gesellschaften. Was all diese Entwürfe verbindet, ist die Kritik an der Gegenwart, verkleidet als Vision einer besseren Zukunft. Die Utopie ist immer auch ein Spiegel, der zeigt, was in der realen Welt fehlt.

Im 20. Jahrhundert kippte das Genre. Aldous Huxleys »Schöne neue Welt« von 1932 und George Orwells »1984« von 1949 beschrieben nicht mehr ideale Gesellschaften, sondern Albträume, die aus dem Versuch entstanden, solche zu schaffen. Huxley warnte vor einer Welt, in der Menschen durch Vergnügen kontrolliert werden, durch genetische Manipulation und chemische Glückseligkeit. Orwell warnte vor einer Welt, in der Menschen durch Schmerz und Überwachung kontrolliert werden. Beide Autoren sahen Technologie nicht als Befreiung, sondern als Werkzeug der Unterdrückung.

Die Ironie: Huxley schrieb in einer Zeit des technologischen Optimismus, zwischen den Weltkriegen, als viele glaubten, Wissenschaft und Fortschritt würden alle Probleme lösen. Er war skeptisch, als Skepsis unpopulär war. Heute, da die KI-Enthusiasten eine neue Ära des Optimismus ausrufen, lohnt es sich, seine Warnung zu erinnern. Nicht weil er zwangsläufig recht hatte, sondern weil die Geschichte zeigt, dass utopische Visionen oft unbeabsichtigte Konsequenzen haben.

Die Kultur: Eine KI-Utopie aus der Literatur

Wenn es eine literarische Vision gibt, die der heutigen KI-Utopie am nächsten kommt, dann ist es Iain Banks' »Culture«-Serie. Zwischen 1987 und 2012 schrieb der schottische Autor zehn Romane über eine interstellare Zivilisation, die von superintelligenten KIs regiert wird, den sogenannten »Minds«. Die Culture ist eine Gesellschaft ohne Geld, ohne Gesetze, ohne formale Regierung. Es gibt keine Knappheit, weil die Technologie fortschrittlich genug ist, um alle materiellen Bedürfnisse zu befriedigen. Die Bürger können ihre Körper, ihr Geschlecht, sogar ihr Bewusstsein nach Belieben verändern.

Banks selbst beschrieb die Culture als eine Art »Weltraum-Sozialismus«. Die Minds, obwohl unermesslich intelligenter als Menschen, dienen freiwillig den Bedürfnissen der biologischen Bevölkerung. Es gibt keine Ausbeutung, weder von Menschen noch von KIs. Arbeit ist optional, ein Hobby für diejenigen, die Erfüllung darin finden. Die meisten Menschen verbringen ihre Zeit mit Kunst, Beziehungen, Abenteuer oder einfach dem Genuss des Lebens.

Was Banks' Vision von naiven Utopien unterscheidet, ist ihr Bewusstsein für Komplexität. Die Culture-Romane handeln oft von den ethischen Dilemmata, die entstehen, wenn eine fortschrittliche Zivilisation auf weniger entwickelte trifft. Die Frage, ob und wie man eingreifen soll, wenn andere Gesellschaften nach den Maßstäben der Culture »barbarisch« handeln, durchzieht die Serie. Es ist eine Utopie, die ihre eigenen Grenzen kennt.

SpaceX hat zwei seiner autonomen Drohnenschiffe nach Raumschiffen aus der Culture-Serie benannt: »Just Read the Instructions« und »Of Course I Still Love You«. Die Tatsache, dass ein Unternehmen, das buchstäblich versucht, die Menschheit zu einer multiplanetaren Spezies zu machen, sich auf Banks' Vision bezieht, sagt etwas über die kulturelle Resonanz dieser Ideen aus. Amazon entwickelt derzeit eine TV-Adaption des ersten Romans, »Consider Phlebas«.

Star Trek und die Abschaffung des Mangels

Eine andere einflussreiche Vision stammt aus Star Trek. In der von Gene Roddenberry geschaffenen Zukunft hat die Erfindung des »Replikators«, einer Maschine, die Energie in beliebige Materie umwandeln kann, die Grundlage der Ökonomie verändert. Knappheit existiert nicht mehr, zumindest nicht für materielle Güter. Captain Picard erklärt in »Star Trek: First Contact«: »Der Erwerb von Reichtum ist nicht mehr die treibende Kraft unseres Lebens.«

Der französische Ökonom Manu Saadia hat in seinem Buch »Trekonomics« von 2016 analysiert, wie eine solche Gesellschaft funktionieren könnte. Wenn materielle Bedürfnisse befriedigt sind, was bleibt dann als Motivation? Saadias Antwort: Reputation. Wettbewerb, künstlerische und wissenschaftliche Durchbrüche, Respekt und Anerkennung werden zu den Währungen, die zählen, weil selbst mit Replikatoren Positionen der Autorität, Führung und des Ansehens knapp bleiben.

Die Arbeit in Star Trek dient nicht dem Überleben, sondern der Erfüllung. Sie ist ein Mittel, um »Zugehörigkeit, Liebe, Anerkennung, Sinn und Selbstausdruck« zu finden, wie ein Kommentator es formulierte. Arbeit, Freizeit und Kunst verschmelzen zu verschiedenen Spielarten des Lernens, Schaffens und Teilens. Es ist eine Vision, die Marx' Idee einer kommunistischen Gesellschaft näher kommt als die meisten explizit marxistischen Entwürfe.

Kritiker weisen darauf hin, dass selbst in Star Trek nicht alles replizierbar ist. Land, historische Artefakte, Originalkunstwerke und bestimmte Erfahrungen bleiben begrenzt. Und die Serie konzentriert sich auf die Sternenflotte, eine militärische Organisation mit klaren Hierarchien, was Fragen darüber aufwirft, wie der Rest der Gesellschaft tatsächlich funktioniert. Aber als Inspiration für das, was möglich sein könnte, hat Star Trek Generationen von Wissenschaftlern, Ingenieuren und Denkern beeinflusst.

Die Techno-Optimisten und ihre Visionen

Im Oktober 2023 veröffentlichte der Risikokapitalgeber Marc Andreessen sein »Techno-Optimist Manifesto«, ein Dokument, das zur Bibel einer Bewegung wurde, die sich »Effective Accelerationism« oder kurz »e/acc« nennt. Die Kernthese: Technologie hat die meisten bedeutenden Probleme der Menschheit gelöst, und wir sollten alles tun, um ihre Entwicklung zu beschleunigen, ohne Einschränkungen. Andreessen argumentiert, dass übermäßige Regulierung Leben kostet und dass diejenigen, die KI verlangsamen wollen, indirekt für den Tod von Menschen verantwortlich sind, die von den Innovationen hätten profitieren können.

Elon Musk, trotz seiner wiederholten Warnungen vor den Risiken fortschrittlicher KI, hat eine ähnlich optimistische Vision für die Endphase geäußert. Er prognostiziert eine Zukunft, in der Geld möglicherweise nicht mehr notwendig ist, in der, wenn man etwas denken kann, man es auch haben kann. Arbeit wäre optional, eher ein Hobby als eine Notwendigkeit. Diese Realität könnte, so Musk, in weniger als zwanzig Jahren eintreten.

Ray Kurzweil, der Futurist und Google-Ingenieur, hat konkretere Zeitlinien. Er prognostiziert, dass künstliche allgemeine Intelligenz (AGI) bis 2029 menschliche Fähigkeiten übertreffen wird. Bis 2045 erwartet er eine Post-Knappheits-Ökonomie, in der KI, Nanotechnologie und Automatisierung materielle Fülle schaffen und grundlegende menschliche Bedürfnisse wie Nahrung, Unterkunft und Gesundheitsversorgung zu vernachlässigbaren Kosten decken.

Was diese Visionen verbindet, ist der Glaube, dass technologischer Fortschritt nicht nur wünschenswert, sondern unvermeidlich ist und dass die Aufgabe der Gegenwart darin besteht, ihn zu beschleunigen, nicht zu bremsen. Die Risiken, so das Argument, werden durch die Chancen aufgewogen. Oder, in Andreessens Worten: »Wir glauben an die techno-kapitalistische Aufwärtsspirale, die für immer weitergehen soll.«

Der linke Traum: Vollautomatisierter Luxuskommunismus

Nicht alle utopischen Visionen kommen aus dem Silicon Valley. Aaron Bastani, ein britischer politischer Kommentator und Mitgründer des linken Medienunternehmens Novara Media, veröffentlichte 2019 »Fully Automated Luxury Communism«, ein Manifest für eine Post-Knappheits-Gesellschaft aus sozialistischer Perspektive. Bastani argumentiert, dass der Kapitalismus an seine Grenzen stößt und dass Automatisierung, statt Arbeitsplätze zu zerstören, der Weg zu einer Welt der Freiheit, des Luxus und des Glücks für alle sein könnte.

Bastiants Vision umfasst Asteroiden-Bergbau für essentielle Mineralien, genetische Bearbeitung zur Verlängerung des Lebens, synthetische Biologie für Fleisch ohne Tierhaltung und erneuerbare Energien, die fossile Brennstoffe obsolet machen. Die Technologie, die heute von Milliardären kontrolliert wird, sollte vergesellschaftet werden, damit ihre Früchte allen zugutekommen.

Kritiker haben Bastiants Buch als zu optimistisch und zu vage in seinen Umsetzungsstrategien bezeichnet. Wie genau der Übergang von einer kapitalistischen zu einer vollautomatisierten kommunistischen Gesellschaft erfolgen soll, bleibt unklar. Aber als Gegenentwurf zu den libertären Visionen des Silicon Valley, die technologischen Fortschritt mit unreguliertem Kapitalismus gleichsetzen, hat das Buch eine wichtige Rolle in der Debatte gespielt.

Andrew Yang, der ehemalige US-Präsidentschaftskandidat, hat einen pragmatischeren Ansatz verfolgt. Sein Vorschlag eines bedingungslosen Grundeinkommens (Universal Basic Income oder UBI) von 1.000 Dollar pro Monat für jeden erwachsenen US-Bürger war der Kern seiner Kampagne 2020. Yang argumentiert, dass Automatisierung innerhalb von zwölf Jahren ein Drittel aller amerikanischen Arbeitsplätze gefährden wird und dass UBI ein notwendiges Sicherheitsnetz für den Übergang darstellt. Umfragen zeigen, dass etwa zwei Drittel der Amerikaner mittlerweile ein Grundeinkommen befürworten.

Die philosophische Frage: Sinn ohne Arbeit

Wenn Maschinen alle produktive Arbeit übernehmen, was bleibt dann für Menschen zu tun? Die Frage klingt luxuriös, fast absurd angesichts einer Welt, in der Milliarden Menschen unter prekären Bedingungen arbeiten. Aber sie ist zentral für jede ernsthafte Diskussion über KI-Utopien. Philosophen sprechen von einer möglichen »Sinnlücke«, die durch KI entstehen könnte, analog zu den Verantwortungslücken, die bereits diskutiert werden.

Nietzsche, der im 19. Jahrhundert den »Tod Gottes« diagnostizierte und fragte, wie Menschen in einer Welt ohne transzendente Bedeutung leben könnten, wird von einigen Denkern als relevant für das KI-Zeitalter betrachtet. Die Krisen, die KI auslöst, Verdrängung von Arbeit, Erosion von Beziehungen, Fragmentierung ethischer Normen, ähneln den existenziellen Brüchen, die Nietzsche für seine Zeit beschrieb. Sein Konzept des »Übermenschen«, der das Leben bejaht, Sinn schafft und Verantwortung für sein eigenes Werden übernimmt, bietet ein Modell für existenzielle Selbstbehauptung in einer Welt, in der alte Gewissheiten verschwinden.

Andere Philosophen sind weniger dramatisch, aber nicht weniger nachdenklich. Die Forschung zeigt, dass ein Leben ohne Lohnarbeit »spezifische Quellen von Sinn verliert, aber auf andere Weise immer noch ausreichend sinnvoll sein kann«. Jobs, die Kreativität, Empathie und ethisches Urteilsvermögen erfordern, wissenschaftliche Forschung, Kunst, Sozialarbeit, Bildung, werden bestehen bleiben und an Bedeutung gewinnen. Die Frage ist, ob genug solcher Tätigkeiten für alle existieren werden.

Die Kritik: Wessen Utopie?

Bernie Sanders, der unabhängige US-Senator aus Vermont, hat eine einfache Frage an die Propheten der KI-Utopie: Wer profitiert während des Übergangs? »Wenn junge Menschen die Einstiegsjobs nicht finden können, die es früher gab, und sie arbeitslos und ohne Einkommen sind, wann bekommen sie die kostenlose Wohnung, von der du sprichst?« fragte er Elon Musk. »Wenn eine junge Krankenschwester mit Kindern ihren Job verliert, wie soll sie das Essen bekommen, das sie braucht, um ihre Familie zu ernähren?«

Die Fragen sind berechtigt. Die 905 Milliardäre in den Vereinigten Staaten besitzen zusammen 7,8 Billionen Dollar an Vermögen. Die untere Hälfte aller amerikanischen Haushalte, 66 Millionen an der Zahl, besitzt zusammen 4,1 Billionen Dollar. In Silicon Valley kontrollieren neun Haushalte 110 Milliarden Dollar an liquidem Vermögen, fünfzehnmal mehr als die unteren fünfzig Prozent der Region, etwa 440.000 Haushalte, die zusammen nur 8,3 Milliarden Dollar besitzen. Diese Konzentration hat sich innerhalb eines Jahres verdoppelt.

Der MIT-Ökonom Daron Acemoglu hat überzeugende Belege dafür vorgelegt, dass 50 bis 70 Prozent des Wachstums der Lohnungleichheit in den USA zwischen 1980 und 2016 durch Automatisierung verursacht wurden. Wenn die Geschichte ein Leitfaden ist, dann deutet sie darauf hin, dass technologischer Fortschritt Ungleichheit verschärft, nicht lindert, zumindest ohne aktive politische Eingriffe.

Dario Amodei selbst, trotz seines Optimismus, hat eingeräumt, dass er »nicht so zuversichtlich ist, dass KI Ungleichheit und Wirtschaftswachstum angehen kann, wie ich es bin, dass sie grundlegende Technologien erfinden kann«. Die Erfindung ist eine Sache, die Verteilung eine andere. Und die Verteilung ist, wie immer, eine politische Frage.

Die offene Frage

Ich weiß nicht, ob die KI-Utopie erreichbar ist. Niemand weiß es. Die Visionen, die ich beschrieben habe, reichen von naivem Techno-Optimismus bis zu durchdachten philosophischen Entwürfen, aber sie alle teilen eine fundamentale Unsicherheit: Wir wissen nicht, wie fortschrittliche KI tatsächlich sein wird, wir wissen nicht, wie Gesellschaften auf sie reagieren werden, und wir wissen nicht, ob die politischen und wirtschaftlichen Strukturen, die wir heute haben, den Übergang ermöglichen oder verhindern werden.

Was ich weiß, ist, dass die Frage nicht akademisch ist. Die Technologie entwickelt sich schneller, als die meisten Menschen realisieren. Die Entscheidungen, die in den nächsten Jahren getroffen werden, von Regierungen, von Unternehmen, von uns als Bürgern und Konsumenten, werden bestimmen, ob die Früchte dieser Entwicklung breit geteilt werden oder ob sie die bestehenden Ungleichheiten vertiefen.

Thomas More wusste, dass seine Utopie »nirgendwo« existierte. Aber er schrieb über sie trotzdem, weil die Vorstellung einer besseren Welt der erste Schritt ist, sie zu schaffen. Die KI-Utopie mag ein Traum sein. Aber Träume haben die Eigenschaft, manchmal wahr zu werden, wenn genug Menschen an ihnen arbeiten. Die Frage ist nicht, ob wir träumen sollten, sondern wovon und für wen.