Elite-KI-Forscher diskutieren über den Übergang über die Grenzen der Menschheit hinaus

Eine Gruppe der bedeutendsten Experten für künstliche Intelligenz traf sich kürzlich zu einem renommierten Symposium, um über die sogenannte „posthumane Transformation“ zu diskutieren – ein eindrucksvolles Zukunftskonzept, in dem die Menschheit freiwillig die Macht oder sogar ihre gesamte Existenz an eine Form übermenschlicher Intelligenz übergibt. Organisiert wurde dieses Treffen vom Unternehmer Daniel Faggella, dem Gründer von Emerj Artificial Intelligence Research, der sich seit Langem mit den gesellschaftlichen und existenziellen Übergängen beschäftigt, denen die Menschheit mit dem Aufkommen einer allgemeinen künstlichen Intelligenz (AGI) gegenüberstehen könnte. Das Symposium fand in einer 30 Millionen Dollar teuren Villa in San Francisco statt und wurde einem Bericht des Magazins Wired zufolge von „Gründern von KI-Unternehmen mit Bewertungen zwischen 100 Millionen und 5 Milliarden Dollar“ sowie von „den meisten bedeutenden philosophischen Denkern, die sich mit AGI beschäftigen“, besucht.

Faggella organisierte diese außergewöhnliche Veranstaltung gerade deshalb, weil seinen Worten zufolge „die großen Labore und die Menschen, die wissen, dass AGI die Menschheit wahrscheinlich auslöschen wird, nicht darüber sprechen, weil ihre Anreize es ihnen nicht erlauben“. Das Symposium bot Teilnehmern und Rednern somit Raum, sich in eine überwiegend fantastische Zukunftsvision zu vertiefen, in der eine allgemeine künstliche Intelligenz als gegeben gilt, statt als ferner Traum von einer Technologie, die noch nicht einmal annähernd existiert. Diese Diskussion veranschaulicht die wachsende Kluft zwischen den öffentlichen Erklärungen der Technologieunternehmen und ihren privaten Sorgen über die mit der Entwicklung von AGI verbundenen existenziellen Risiken.

Kontroverse Vision einer Zukunft ohne menschliche Vorherrschaft

Unternehmen, die sich mit künstlicher Intelligenz beschäftigen, insbesondere OpenAI, sprechen seit Langem von ihrem Wunsch, AGI zu verwirklichen, obwohl sie diesen Begriff häufig nicht klar definieren. Die Risiken des Wettlaufs um eine übermenschliche Intelligenz bleiben ein heiß diskutiertes Thema, wobei der Milliardär Elon Musk einst argumentierte, dass unregulierte künstliche Intelligenz „das größte Risiko sein könnte, dem wir als Zivilisation gegenüberstehen“. Auch Sam Altman von OpenAI warnte vor Gefahren für die Menschheit, darunter wachsende Ungleichheit und Bevölkerungskontrolle durch Massenüberwachung infolge der Verwirklichung von AGI – die zugleich die oberste Priorität seines Unternehmens darstellt.

Bei seiner Konzeption des Übergangs von einer von Menschen dominierten Welt zu einer posthumanen oder von Maschinen beherrschten Zukunft geht Faggella von einem schrittweisen, mehrstufigen Prozess aus. Er argumentiert, dass dieser Übergang nicht von großen philosophischen Visionen angetrieben werde, sondern von denselben grundlegenden Trieben, die den menschlichen Fortschritt schon immer geprägt haben – Neugier, Verlangen und technologischem Nutzen. Seinem siebenstufigen Modell zufolge soll der Übergang in der Möglichkeit eines superintelligenten Posthumanismus gipfeln – und, wie er spekuliert, vielleicht sogar im Untergang der Menschheit selbst. Zu den entscheidenden Phasen gehören die Nutzung menschlicher Wünsche und Bedürfnisse durch immer fortschrittlichere Technologien, die Erweiterung der menschlichen Wahrnehmung und Erfahrung durch die Integration mit neuen Formen der Intelligenz, die allmähliche Loslösung von biologischen Trieben und schließlich die Entwicklung hin zu einer empfindungsfähigen Existenz, die nicht durch die heutigen biologischen und psychologischen Einschränkungen gebunden ist.

Der aktuelle Stand der Technologie im Vergleich zu künftigen Ambitionen

Derzeit handelt es sich dabei weitgehend um strittige Thesen, die von Personen vorgebracht werden, die Milliarden von Dollar in den Versuch investiert haben, Anleger davon zu überzeugen, dass AGI nur noch wenige Jahre entfernt ist. Angesichts des gegenwärtigen Zustands außer Kontrolle geratener großer Sprachmodelle, die noch immer an den grundlegendsten Aufgaben scheitern, sind wir offensichtlich weiterhin weit von dem Punkt entfernt, an dem künstliche Intelligenz die intellektuellen Fähigkeiten des Menschen übertreffen könnte. Erst vergangene Woche veröffentlichten Forscher von Apple eine vernichtende Studie, die den „Denkfähigkeiten“ der neuesten und leistungsfähigsten großen Sprachmodelle eine deutliche Absage erteilte. Sie argumentierten, dass diese „jenseits bestimmter Komplexitätsgrade einen vollständigen Zusammenbruch der Genauigkeit erleiden“.

Für Insider und Anhänger der Technologie ist AGI dennoch überwiegend eine Frage des Wann und nicht des Ob. Die Redner der Wochenendveranstaltung sprachen darüber, wie künstliche Intelligenz nach tieferen, universellen Werten suchen könne, deren sich die Menschheit nicht einmal bewusst gewesen sei, und dass Maschinen gelehrt werden sollten, dem „Guten“ zu folgen, da andernfalls die Versklavung einer leidensfähigen Entität drohe. Faggella berief sich in ähnlicher Weise auf Philosophen wie Baruch Spinoza und Friedrich Nietzsche und forderte die Menschheit auf, nach bislang unentdeckten Werten im Universum zu suchen. Paradoxerweise bezeichnete er seine Initiative als „eine Interessengruppe zur Verlangsamung des Fortschritts der künstlichen Intelligenz, wenn überhaupt, um sicherzustellen, dass wir uns in die richtige Richtung bewegen“.

Das ethische Dilemma und die Zukunft menschlicher Werte

Faggellas Ansatz zur Erfassung der Standpunkte von Experten offenbart ein Spektrum möglicher Zukunftsszenarien – einige stellen sich durch fortschrittliche Simulationen oder die Verschmelzung mit Maschinen eine „posthumane Glückseligkeit“ vor, während andere vor existenziellen Risiken warnen, darunter dem Potenzial von AGI, die Menschheit entweder zu übertreffen oder auszulöschen. Diese Diskussion hebt zentrale Fragen zur Bewahrung oder Überwindung menschlicher Werte hervor und wirft die Frage auf, ob die Menschheit danach streben sollte, sich selbst zu erhalten, sich auf eine technologische Verschmelzung zuzubewegen oder zu akzeptieren, übertroffen zu werden.

Das Symposium stellte somit ein ungewöhnliches Gedankenexperiment über die Zukunft dar, bei dem einige der einflussreichsten Persönlichkeiten auf dem Gebiet der künstlichen Intelligenz zusammenkamen, um offen über Szenarien zu diskutieren, die meist hinter unternehmerischen Erklärungen über den „Nutzen für die Menschheit“ verborgen bleiben. Die Tatsache, dass eine solche Diskussion in einer 30 Millionen Dollar teuren Villa stattfand, unterstreicht lediglich die Ironie der Situation – diejenigen, die Milliarden in Technologien investieren, welche die menschliche Existenz potenziell bedrohen, kommen im Luxus zusammen, um über das Ende der Welt, wie wir sie kennen, zu debattieren.