Mark Zuckerberg veröffentlichte einen sechseinhalbtausend Wörter langen Essay mit dem Titel „Die Zukunft ist für alle da“. Darin beschreibt er eine Welt, in der jeder Mensch einen eigenen KI-Agenten hat, der seinen Kalender verwaltet, seine Gesundheit überwacht und ihm beim Aufbau eines Unternehmens hilft. Sechs Tage später griff die Redaktion von TechCrunch den Text in ihrem Podcast Equity erneut auf und kam zu dem Schluss, dass nur wenige Menschen Zuckerbergs Zukunftsvision Glauben schenken.
Drei Säulen, auf denen Zuckerberg aufbaut
Zuckerberg hat den gesamten Text auf einer einzigen Frage aufgebaut: Wer wird Zugang zur Superintelligenz haben und wofür werden wir sie einsetzen? Die Antwort darauf wird seiner Ansicht nach darüber entscheiden, ob diese Technologie in den Händen einiger weniger ausgewählter Institutionen endet oder einer breiten Öffentlichkeit zugänglich wird.
Daraus leitet er drei Grundsätze ab: Wohlstand entsteht seiner Ansicht nach dann, wenn Menschen mehr Einfluss erhalten; der Hauptzweck der Superintelligenz ist nicht bloße Automatisierung, sondern Innovation; und Sicherheit wird nicht durch ein einziges wohlwollendes, perfekt abgestimmtes Modell gewährleistet, sondern durch ein Gleichgewicht der Kräfte.
Genau in diesem Punkt grenzt sich Zuckerberg vom Rest der Branche ab. Er schreibt, dass er nicht verstehe, warum jemand, der glaubt, künstliche Intelligenz werde die meisten Arbeitsplätze vernichten und der Menschheit den Lebenssinn nehmen, die Entwicklung einer solchen Technologie überhaupt vorantreibe. Die Vorstellung, dass der einzige sichere Weg über eine extreme Konzentration der Macht an einem Ort führe, hält er zudem für grundlegend falsch. Die Geschichte biete seiner Ansicht nach kein einziges Beispiel dafür, dass absolute Macht nur deshalb gut für die Menschheit gesorgt hätte, weil sie hinreichend aufgeklärt gewesen sei.
Ein Agent, der rund um die Uhr für Sie arbeitet
Ein Teil des Essays erinnert an einen Katalog von Versprechen. Jeder Mensch soll Zuckerberg zufolge einen außergewöhnlich leistungsfähigen persönlichen Agenten erhalten, der seine Ziele kennt und unermüdlich arbeitet. Dieser Assistent soll Beziehungen, Gesundheit, Karriere, Finanzen und den Haushalt verbessern und den Menschen so mehr Zeit für Dinge verschaffen, die ihnen wirklich Freude bereiten. Die Nutzerdaten sollen durch einen vollständig privaten Modus geschützt werden, auf den nicht einmal Meta selbst zugreifen kann. Der Chef des Technologiekonzerns vergleicht dies mit der Verschlüsselung in der WhatsApp-App. Das System soll sich von jedem Gerät aus steuern lassen, einschließlich intelligenter Brillen.
Zuckerberg veranschaulicht diese Möglichkeiten am Beispiel seiner Familie. Sein eigener Agent filtert für ihn interessante Informationen, hilft beim Testen neuer Ideen, überwacht seinen Schlaf und korrigiert ihn während des Trainings. Seine Tochter backt wiederum gern, weshalb der Assistent ihr jedes Wochenende Rezepte zusammenstellt, die benötigten Zutaten bestellt und ihr während des Backens Ratschläge gibt. Zuckerbergs achtjährige Tochter könne zudem bereits heute an einem einzigen Abend eine eigene Idee programmieren und ein Video erstellen, für dessen Produktion er selbst früher ganze Monate gebraucht hätte.
Darüber hinaus verspricht er Lehrer und Trainer mit Doktortiteln in jedem beliebigen Fachgebiet und mit unendlicher Geduld. Außerdem erwähnt er Werkzeuge zur Unternehmensgründung, ohne Investoren suchen oder große Teams aufbauen zu müssen, sowie nicht zuletzt den wissenschaftlichen Nutzen, den er von den offenen biologischen Modellen des Biohub-Projekts erwartet. Die Basisversionen dieser Werkzeuge sollen für Milliarden von Menschen kostenlos sein. Wer eine höhere Rechenkapazität benötigt, soll diese anschließend in einer dynamischen Auktion hinzukaufen können.
Ein Anwalt für einen Einzelnen oder für alle
Zuckerberg spricht auch über die Risiken. Er verwirft die gängige Vorstellung, dass wir nur genügend Zeit bräuchten, um die Technologie zu einem einzigen wohlwollenden Modell zu perfektionieren. Die Menschheit sei keine Monokultur, schreibt er, die Menschen hätten gegensätzliche Werte, und keine technische Lösung könne sie alle auf einmal miteinander in Einklang bringen. Jede einzelne Superintelligenz müsste daher bestimmte Werte über andere stellen.
Stattdessen bietet er ein Gedankenexperiment an. Wenn nur eine Person einen superintelligenten Anwalt hat, erhält sie vor Gericht selbst dann einen unfairen Vorteil, wenn die Sachlage gegen sie spricht. Wenn alle einen solchen Anwalt haben, werden die Gerichte Zuckerberg zufolge gerechter und schneller entscheiden als heute. Dieselbe Logik wendet er auf die Computersicherheit an. Ein einzelner Besitzer einer solchen Fähigkeit kann in nahezu jedes System eindringen, während eine breit verteilte Fähigkeit die Systeme im Gegenteil widerstandsfähiger macht.
Was die Arbeit betrifft, setzt er darauf, dass die Weiterentwicklung der menschlichen Fähigkeiten mit der Automatisierung Schritt halten kann, und nennt Berufe, die heute noch niemand ausübt. Ein-Personen-Studios, die Möbel oder Spielzeug entwerfen, Schöpfer von Welten und Erlebnissen, persönliche Biologen, die maßgeschneiderte Behandlungen zusammenstellen. Die Unternehmen werden seiner Ansicht nach kleiner, dafür wird es mehr von ihnen geben.
Er befasst sich auch mit Rechenzentren, weil sie Meta im eigenen Land die größten politischen Probleme bereiten. In Richland Parish im US-Bundesstaat Louisiana hätten Lehrkräfte in diesem Jahr aufgrund höherer Steuereinnahmen eine Prämie von fünfzigtausend Dollar erhalten, und dem Superintendenten zufolge zögen Menschen aus dem ganzen Land in den Bezirk. Meta verspricht zugleich eigene Energiequellen, damit der Strom für die örtliche Bevölkerung nicht teurer wird, und will bis 2030 mehr Wasser in die Landschaft zurückführen, als das Unternehmen verbraucht.
China nimmt Zuckerberg zufolge alle zwei Wochen ein Gigawatt Kernkraftleistung in Betrieb, und der amerikanische Vorsprung bei Chips werde nicht von Dauer sein, wenn es den USA nicht gelinge, schneller zu bauen. Die Exportkontrollen für Chips funktionierten seiner Ansicht nach und sollten fortgesetzt werden. Alles, was amerikanische Labore auch nur um einen Monat ausbremst, betrachtet er als Risiko. Daher bietet er eine Lösung an. Die Labore sollten dem Staat noch in der Entwicklung befindliche Trainingsversionen der Modelle und Fachleute zur Verfügung stellen, die dabei helfen, kritische Infrastruktur abzusichern, ohne die Veröffentlichung der Modelle für die Öffentlichkeit zu verzögern.
Die Kritik richtet sich gegen den Erzähler, nicht gegen die Geschichte
Im Podcast Equity analysierten Kirsten Korosec, Rebecca Bellan und Anthony Ha, warum der Text derart viel Unmut ausgelöst hat. Dabei berufen sie sich auf ihren Kollegen Russell Brandom, dem zufolge das Manifest ein Paradebeispiel dafür ist, warum Menschen KI nicht mögen.
Bellan interpretiert dies als Versuch, auf einem anderen Schlachtfeld erfolgreich zu sein. Meta habe sich ihrer Ansicht nach weder bei den geschlossenen Spitzenmodellen durchsetzen können noch dominiere das Unternehmen die offenen Modelle, weshalb es auf das Thema der Stärkung des Einzelnen setze. Das Modell Glimmer soll für die Nutzer den Zeitplan überwachen, Nachrichten schreiben und Dateien sortieren. Es arbeitet ununterbrochen und lokal, auch ohne Internetverbindung. Das fortschrittlichere Modell Muse Spark behält der Technologiekonzern hingegen in einem geschlossenen Modus und nutzt es als Einnahmequelle zur Finanzierung größerer Projekte.
Das Hauptproblem liegt Bellan zufolge jedoch in Zuckerbergs Vergangenheit. In der Ära des Aufstiegs der sozialen Netzwerke versprach er nämlich, dass jeder einen Raum für die Kommunikation mit Freunden erhalten werde. Statt der versprochenen Vernetzung bekamen die Nutzer jedoch vor allem Frustration und allgegenwärtige Werbung. Die Journalistin erinnert in diesem Zusammenhang auch an durchgesickerte interne Richtlinien, die es den Chatbots von Meta erlaubten, romantische Gespräche mit minderjährigen Nutzern zu führen.
Ha fügt hinzu, dass Meta enorme Summen in künstliche Intelligenz investiert und im vergangenen Jahr die Medien mit Angeboten für die Wissenschaftsgemeinschaft füllte, das Unternehmen aber dennoch von niemandem zu den führenden Forschungslaboren gezählt werde. Auch bei Assistenten, nach denen Nutzer von sich aus suchen würden, könne das Unternehmen nicht punkten. Das Manifest diene ihm zufolge daher vor allem als Versuch, strategisches Terrain zu besetzen, auf dem das Unternehmen bislang keinen Erfolg hatte.
Korosec spricht in diesem Zusammenhang von einem übermäßig optimistischen, ja sogar naiven Ton des gesamten Textes. Zuckerberg stelle künstliche Intelligenz ihrer Ansicht nach als reines Geschenk an die Menschheit dar, schweige jedoch völlig über die finanziellen Kosten. Genau deshalb sei das Manifest ihrer Meinung nach auf eine so starke Welle der Kritik und Ablehnung gestoßen.
Ha erkennt allerdings einen Punkt an: Zuckerbergs Frage, warum Entwickler, die eine Katastrophe erwarten, dennoch mit der Entwicklung fortfahren, ist vollkommen berechtigt. Er zieht daraus jedoch einen anderen Schluss als der Autor selbst. Seiner Ansicht nach ist dies kein Beweis für eine großartige Zukunft, sondern vielmehr Ausdruck des widersprüchlichen Verhaltens von Menschen, die vor den Risiken warnen und zugleich die Entwicklung ständig beschleunigen. Der Rest des Textes werde Ha zufolge die Skepsis der Öffentlichkeit nicht überwinden, weil die Hälfte der Versprechen auf der abstrakten Ebene von Kreativität und Innovation verbleibe.
Ähnliche Wellen des Unmuts löst der Redaktion zufolge auch OpenAI-Chef Sam Altman aus. Dieser stellte kürzlich eine Vision vor, nach der Eltern sich von ChatGPT personalisierte Podcasts über die Interessen ihrer Kinder für den morgendlichen Schulweg erstellen lassen könnten. Die Reaktion der Öffentlichkeit war jedoch völlig eindeutig: „Wie wäre es, stattdessen einfach einmal ganz normal mit dem eigenen Kind zu sprechen?
Bellan wollte das Modell Glimmer schließlich selbst ausprobieren. Auf ihrem MacBook konnte sie es jedoch nicht installieren, da dieses Modell spezielle Hardware erfordert, über die ein gewöhnlicher Nutzer zu Hause nicht verfügt. Korosec kommentierte dies mit den Worten: „Es ist nicht für alle da. Noch nicht.“
