Drei Schlüsselbereiche, in denen Politiker laut dem Anthropic-Chef KI unterstützen können

Dario Amodei, CEO des Unternehmens Anthropic, äußerte sich dazu, wie politische Entscheidungsträger in den USA zur Entwicklung künstlicher Intelligenz beitragen können. Er sprach auf dem Anthropic Futures Forum, wo er die Notwendigkeit betonte, Innovation und Sicherheit miteinander in Einklang zu bringen. Ihm zufolge gibt es drei Hauptbereiche, auf die sich die Regierung konzentrieren sollte: Exportkontrollen, grundlegende Schutzmechanismen und Unterstützung bei Arbeitsplatzverlusten. Diese Punkte beruhen auf seinen Erfahrungen mit der Entwicklung großer Sprachmodelle und agentenbasierter KI-Werkzeuge. Amodei wies darauf hin, dass künstliche Intelligenz sowohl die größte Bedrohung als auch die größte Chance für die nationale Sicherheit der vergangenen hundert Jahre darstellt.

In einem von der Reporterin Alexandra Kelley geführten Gespräch beschrieb Amodei, wie sein Unternehmen bei der sicheren Einführung künstlicher Intelligenz vorgeht. Er nannte Beispiele für deren Einsatz in der Medizin und in der wissenschaftlichen Forschung, räumte zugleich aber auch die potenziellen Risiken fortschrittlicher Systeme ein. Seiner Ansicht nach kommt der Regierung gerade bei der Bewältigung dieser Risiken eine Schlüsselrolle zu. Amodei plant, sich gemeinsam mit dem Anthropic-Mitgründer Jack Clark mit Kongressabgeordneten zu treffen, um diese Ideen direkt auf dem Capitol Hill zu erörtern.

Exportkontrollen als Priorität

Amodei betonte die Bedeutung von Exportkontrollen, um den Missbrauch fortschrittlicher KI-Technologien durch feindliche Akteure zu verhindern. Sein Unternehmen Anthropic hat kürzlich den Zugang zu seinen Modellen für chinesische Unternehmen und deren Niederlassungen eingeschränkt. Dieser Schritt kostete das Unternehmen Hunderte Millionen Dollar an Einnahmen – zum aktuellen Wechselkurs entspricht dies etwa 2,25 bis 20,25 Milliarden Kronen. Amodei schlägt vor, ähnliche Beschränkungen auch auf Halbleiterchips anzuwenden, die ein Schlüsselelement für den Aufbau dieser Systeme darstellen.

Amodei zufolge ist die Technologie zur Herstellung dieser Chips äußerst komplex, und die USA verfügen in diesem Bereich über einen Vorteil. Das Unternehmen setzt sich konsequent auf allen Ebenen der Technologiekette für diese Maßnahmen ein, nicht nur bei KI-Modellen. Bei diesem Ansatz geht es nicht um Marktmanipulation, sondern um den Schutz vor Missbrauch. Weitere Quellen bestätigen, dass Amodei aufgrund der Risiken für die nationale Sicherheit eine Begrenzung der Verbreitung fortschrittlicher Modelle und Hardware in feindliche Staaten fordert. Darüber hinaus schätzt er die Wahrscheinlichkeit katastrophaler Risiken auf 25 Prozent, wenn diesen Bedrohungen nicht begegnet wird, darunter der Missbrauch in der Cyberkriegsführung oder im Bioengineering.

Grundlegende Schutzmechanismen

Ein weiterer Bereich ist die Einführung grundlegender Schutzmechanismen, die die Verantwortlichkeit der Unternehmen gewährleisten würden. Amodei unterstützt Transparenzanforderungen beim Training von KI-Modellen sowie die Durchführung grundlegender, öffentlich zugänglicher Sicherheitstests. Diese Mechanismen sollten auf ein Mindestmaß beschränkt sein, damit sie Innovationen und die Vorteile künstlicher Intelligenz nicht behindern.

Amodei stimmt mit Vertretern der Trump-Regierung darin überein, dass die politischen Vorgaben flexibel sein sollten, um den Fortschritt nicht einzuschränken. So sollten Unternehmen beispielsweise Informationen über das Training ihrer Modelle weitergeben, was dazu beitragen würde, die Sicherheit der Technologien zu gewährleisten. Ergänzende Informationen aus dem Internet besagen, dass Amodei sich für eine internationale Zusammenarbeit bei Regulierungen einsetzt, mit denen katastrophale Risiken überwacht werden könnten. Dazu gehören öffentliche Sicherheitstests und Mindestanforderungen, die Unternehmen erfüllen müssten, ohne dadurch die Entwicklung zu verlangsamen.

Unterstützung bei Arbeitsplatzverlusten

Amodei räumt ein, dass künstliche Intelligenz zu massiven Arbeitsplatzverlusten führen kann, insbesondere bei Angestellten. Ihm zufolge könnte dies 300 Millionen Amerikaner sowie viele Menschen in anderen Ländern betreffen. Es gibt keine perfekte Lösung, doch es ist notwendig, offen darüber zu sprechen und sich darauf vorzubereiten.

Er schlägt öffentliche Sensibilisierungskampagnen, eine bessere Aufklärung der Gesetzgeber und Debatten über Lösungen wie Umschulungsprogramme oder eine gerechte Verteilung des durch künstliche Intelligenz geschaffenen Wohlstands vor. Amodei erwähnt die Möglichkeit, KI-Unternehmen zu besteuern, um diese Übergänge zu finanzieren. Weitere Quellen berichten, dass Amodei vor einem raschen Anstieg der Arbeitslosigkeit warnt und frühzeitige Debatten über soziale Sicherungsnetze und die wirtschaftliche Anpassung fordert. Er betont die Notwendigkeit gemeinsamer Ausschüsse und Briefings für Gesetzgeber, damit diese die Auswirkungen künstlicher Intelligenz besser verstehen.

Quelle: nextgov.com