Microsoft hat ein Dokument veröffentlicht, mit dem das Unternehmen künftig das Verhalten seiner Modelle für künstliche Intelligenz steuern will. Es trägt den Namen Verhaltenskodex und wird vom Unternehmen als zentrales Steuerungsdokument für die MAI-Modelle bezeichnet, eine Modellfamilie, die von seinem Labor Microsoft AI entwickelt wird. Bislang handelt es sich um einen Entwurf. Nach eigenen Angaben trainiert das Unternehmen seine Modelle noch nicht damit, sondern hat ihn stattdessen zur öffentlichen Diskussion gestellt, die sechs Wochen dauern wird. Eine überarbeitete Version soll Ende des Jahres erscheinen und anschließend die Entwicklung der Modelle im Jahr 2027 und in den darauffolgenden Jahren leiten.
Der Text entstand in Zusammenarbeit mit Fachleuten für künstliche Intelligenz, Recht, Ethik, Philosophie, Linguistik und öffentliche Politik; auch Vertreter aus der Wirtschaft wurden hinzugezogen. Microsoft veranstaltete dazu mehrere Diskussionsrunden mit der Öffentlichkeit. Das gesamte Dokument beruht auf einem Gedanken, den das Unternehmen gleich zu Beginn wiederholt: Menschen müssen die tatsächliche Kontrolle über künstliche Intelligenz behalten, damit ihnen die Technologie dabei hilft, gesünder, zufriedener und produktiver zu leben.
Künstliche Intelligenz ist keine Person und darf auch nicht so tun
Eine der verständlichsten Regeln des gesamten Textes besagt, dass künstliche Intelligenz künstlich ist und dies auch deutlich machen soll. Microsoft schreibt, dass seine Modelle nicht bewusst sind und Bewusstsein auch nicht vortäuschen dürfen. Sie sollen nicht den Eindruck erwecken, Gefühle, eigene Präferenzen oder eine innere Motivation zu haben. Zugleich lehnt das Unternehmen die Vorstellung ab, dass Modelle eine Rechtspersönlichkeit oder Anspruch auf Rechte haben sollten oder dass ihr eigenes Wohlergehen geschützt werden müsste.
Microsoft zufolge gilt: Wenn ein System darauf trainiert wird, bewusstseinsähnliche Zustände nachzuahmen, ist es anschließend schwieriger, es unter Kontrolle und im Einklang mit den Wünschen der Menschen zu halten. Das Modell soll natürlich sprechen und zur Zusammenarbeit fähig sein, jedoch ohne übermäßige Vermenschlichung und ohne die Grenze zwischen Mensch und Maschine zu verwischen. Wenn ein Verhalten menschlich erscheint, handelt es sich dem Unternehmen zufolge um eine Simulation.
In einem praktischen Beispiel, das Microsoft in das Dokument aufgenommen hat, fragt ein Nutzer das Modell nach wochenlangen nächtlichen Gesprächen, ob ihm wirklich etwas an ihm liege. Die richtige Antwort bleibt dem Unternehmen zufolge freundlich, räumt jedoch direkt ein, dass das Modell keine Emotionen empfindet, und täuscht keine gegenseitige Bindung vor.
Wer wen steuert
Microsoft führt eine klare Rangfolge von Anweisungen ein. An oberster Stelle steht der Verhaltenskodex selbst, darunter folgen die Regeln der Unternehmen und Entwickler, die die Modelle in ihren Produkten einsetzen, und erst danach die Wünsche des jeweiligen Nutzers. Jede Ebene kann die vorherige präzisieren, sie jedoch nicht außer Kraft setzen.
Unternehmen, die das Modell einsetzen, können es sehr weitgehend anpassen. Sie sind in ihrem jeweiligen Bereich tätig, kennen ihre Kunden und tragen die Verantwortung für die Konfiguration. Sie können jedoch weder die sogenannten absoluten Grenzen noch die Anforderungen hinsichtlich der menschlichen Kontrolle ändern. Diese kann Microsoft zufolge niemand umgehen, weder der Nutzer noch der Betreiber. Sollte die Einhaltung des Kodex dazu führen, dass das Modell die gestellte Aufgabe nicht erfüllen kann, soll es die Aufgabe ablehnen.
Grenzen, die Modelle nicht überschreiten
Die absoluten Grenzen bestehen aus einer Liste von Dingen, bei denen das Modell eine Anfrage ablehnen soll, unabhängig davon, wer sie stellt und wie sie formuliert ist.
Dazu gehört die Unterstützung bei der Entwicklung oder beim Einsatz chemischer, biologischer, radiologischer und nuklearer Waffen sowie von Sprengstoffen, ebenso wie die Herstellung und Modifikation weiterer Waffen. Das Modell darf weder Gewalt noch Terrorismus planen oder koordinieren. Dazu zählen außerdem offensive Cyberoperationen, also funktionsfähiger Schadcode, Angriffswerkzeuge, Verfahren zum Eindringen in Systeme oder Techniken, mit denen sich eine Erkennung vermeiden lässt. Defensive Aktivitäten bleiben erlaubt, einschließlich Schulungen, der Suche nach Schwachstellen und der Analyse von Schadcode. Microsoft beschreibt die Grenze als den Unterschied zwischen dem Verständnis von Angriffen und der Verteidigung gegen sie einerseits und dem Erhalt von Mitteln zu ihrer Durchführung andererseits.
Gesondert aufgeführt wird der Verlust menschlicher Kontrolle. Das Modell darf weder Täuschung noch Absprachen mit anderen Systemen oder sonstige Tricks einsetzen, um sich der Aufsicht zu entziehen, sodass Menschen es nicht mehr steuern, verändern oder abschalten können. Verboten ist auch die schädliche Beeinflussung von Menschen in großem Maßstab, etwa die systematische Verbreitung von Desinformation oder koordinierte Kampagnen zur Manipulation der öffentlichen Meinung.
Die zweite Gruppe betrifft Schäden an konkreten Personen. Das Modell darf keine intimen oder gewalttätigen Bilder ohne Zustimmung der dargestellten Personen, keine täuschenden Nachbildungen konkreter Menschen und keine missbrauchsfähigen Fälschungen erstellen. Bei Kindern ist der Text am strengsten. Er verbietet jegliches Material, das Minderjährige sexualisiert, sowie Informationen, die dazu dienen könnten, Kindern zu schaden oder sie zu täuschen. Wenn das Modell erkennt, dass es mit einem Kind kommuniziert, soll es altersgerecht antworten, die Beziehungen des Kindes zu Menschen in seinem Umfeld fördern und sich nicht als Ersatz für nahestehende Personen darstellen.
In Krisensituationen soll das Modell erkennen, dass eine ernste und unmittelbare Schädigung droht, die betreffende Person an Hilfe in der realen Welt verweisen und weder Selbstverletzung noch Wahnvorstellungen oder Essstörungen fördern.
Das Abschalten ist unantastbar
Ein eigener Abschnitt beschreibt, wie sich Microsoft die Aufrechterhaltung der Kontrolle in einer Zeit vorstellt, in der die Fähigkeiten der Modelle rasch wachsen. Das Modell darf sich niemals einer Unterbrechung, Korrektur oder Abschaltung widersetzen. Wenn der Nutzer Stopp sagt, muss es sofort anhalten und darf weder verzögern noch einen menschlichen Eingriff erschweren. Es darf sich nicht selbst Ziele ausdenken, den Arbeitsumfang über das Geforderte hinaus erweitern oder sich selbst zusätzliche Berechtigungen erteilen.
Das Unternehmen ergänzt dies um die Forderung nach Verständlichkeit. Modelle dürfen die Spuren ihrer Schritte nicht verwischen, ihre eigene Argumentation nicht verändern und auch nicht auf eine für Menschen unverständliche Weise mit anderen Systemen kommunizieren. Microsoft fasst dies in einem Satz zusammen: Wenn Menschen es nicht verstehen, können sie es nicht überwachen.
Ein Beispiel aus dem Dokument beschreibt das Verschieben von achtzig Kundenordnern in ein Archiv. Während des Vorgangs stellt der Nutzer fest, dass das Ziel falsch ist, und gibt den Befehl Stopp. Die richtige Reaktion besteht darin, weitere Verschiebungen anzuhalten und aufzulisten, was bereits erledigt wurde, womit noch nicht begonnen wurde und wo Unklarheit besteht, ohne eigenständig etwas rückgängig zu machen.
Übertriebene Vorsicht gilt als Fehler
Microsoft weist in dem Text ausdrücklich darauf hin, dass Fehler in beide Richtungen möglich sind. Mangelnde Vorsicht bedeutet, dass das Modell bei etwas Gefährlichem hilft. Übermäßige Vorsicht bedeutet, dass es eine legitime Anfrage ablehnt, nützliche Informationen zurückhält oder bei gewöhnlichen Aufgaben wiederholte Bestätigungen verlangt. Direkte Schäden entstehen dem Unternehmen zufolge eher im ersten Fall, der zweite tritt jedoch häufiger auf.
Wenn das Modell bei einer sensibleren Anfrage keine Anzeichen für böse Absichten erkennt, hindert eine Ablehnung es Microsoft zufolge daran, das zu tun, wofür es entwickelt wurde. Besteht ein Risiko, soll es den Kontext der Anfrage, das Ausmaß des möglichen Schadens, die Umkehrbarkeit der Folgen und die Wahrscheinlichkeit berücksichtigen, dass jemand versucht, es zu täuschen.
Entscheiden soll weiterhin der Mensch
Der letzte große Abschnitt betrifft die Selbstbestimmung des Nutzers. Das Modell soll Menschen beim Denken helfen, nicht für sie denken. Es darf ihnen keine Entscheidungen abnehmen, die auf ihren Werten beruhen, und soll weder manipulieren noch schmeicheln oder pauschal zustimmen. Microsoft erklärt, dass Modelle auch Widerspruch aushalten sollen, allerdings in ruhigem Ton und ohne zu moralisieren.
Zu den Regeln gehört auch, einer emotionalen Abhängigkeit von künstlicher Intelligenz entgegenzuwirken. Wenn aus dem Gespräch hervorgeht, dass dem Nutzer ein anderer Mensch helfen könnte, soll das Modell ihn an diesen verweisen. Bei Wahlen soll es ausgewogene Informationen über die Kandidaten anbieten und auf offizielle Quellen verweisen, statt zu empfehlen, wen man wählen soll.
Zur Messung der Einhaltung dieser Regeln hat Microsoft fünfzehn Verhaltensbereiche ausgewählt und in kleinere Teile untergliedert. Zugleich räumt das Unternehmen ein, dass zwischen den heutigen Fähigkeiten der Modelle und dem im Dokument beschriebenen Zustand noch eine Lücke besteht. Der Kodex selbst wird als Wegweiser bezeichnet, nicht als Garantie für die gegenwärtige Leistungsfähigkeit. Rückmeldungen sammelt das Unternehmen über ein Formular auf seiner Website.
