Fast hundert Patienten des Bostoner Krankenhauses Beth Israel Deaconess Medical Center unterhielten sich im vergangenen Jahr vor ihrem Arztbesuch zunächst mit einem Chatbot, einem Computerprogramm, mit dem man wie mit einem anderen Menschen schreibt. Dabei handelte es sich um AMIE, ein experimentelles System von Google zur Erkennung von Krankheiten. Die Ergebnisse wurden nun in der Fachzeitschrift Lancet veröffentlicht, einer der renommiertesten medizinischen Publikationen, in die nur Arbeiten aufgenommen werden, die von anderen Fachleuten streng geprüft wurden. Keines der achtundneunzig Gespräche musste von den Ärzten aus Sicherheitsgründen abgebrochen werden, und in neun von zehn Fällen nahm der Chatbot auch die Krankheit, an der der Patient tatsächlich litt, in seine Einschätzungen auf. Für Google ist es der erste Artikel in der Hauptausgabe dieser Zeitschrift. Die Autoren räumen jedoch ein, dass die Studie viele Dinge bislang nicht nachgewiesen hat.
Gespräch vom Wohnzimmer aus, danach zum Arzt
Forscher von Google und dem Krankenhaus BIDMC testeten den Chatbot von April bis November 2025 in einer hausärztlichen Praxis. Sie sprachen erwachsene englischsprachige Patienten an, die einen Akuttermin vereinbart hatten, also einen kurzfristigen Termin für Fälle, in denen jemand plötzlich unter einem bestimmten Problem wie Schmerzen oder Fieber leidet. Mit dem Chatbot schrieben sie von zu Hause aus, spätestens fünf Tage vor dem Termin.
AMIE, mit vollem Namen Articulate Medical Intelligence Explorer, stellte ähnliche Fragen wie ein Arzt. Das System erkundigte sich danach, welche Beschwerden der Patient hatte, seit wann sie bestanden und an welchen Krankheiten er in der Vergangenheit gelitten hatte. Anschließend bot es mehrere mögliche Erklärungen für die Beschwerden an, die der Patient mit seinem Arzt besprechen konnte, und bereitete für den Arzt eine kurze Zusammenfassung des Gesprächs vor. Laut dem Internisten Adam Rodman, einem Facharzt für Innere Medizin, der an der Leitung der Studie beteiligt war, basiert der Chatbot auf einer leistungsfähigeren Version der künstlichen Intelligenz Gemini als jener, die von der Google-Suchmaschine verwendet wird.
Die Studie untersuchte nicht, ob Menschen dank des Chatbots schneller genesen. Die Autoren wollten herausfinden, ob ein solches Programm überhaupt in der Lage ist, im normalen Praxisbetrieb sicher mit echten Patienten zu sprechen. Rodman erklärte, bevor man sich mit Zeitersparnissen befasse, müssten Werkzeuge mit künstlicher Intelligenz zunächst zeigen, dass sie niemandem schadeten und von den Menschen akzeptiert würden.
Ärzte verfolgten jedes Gespräch live
Sieben erfahrene Internisten überwachten die Sicherheit. Sie verfolgten jedes Gespräch über eine gesicherte Videoverbindung genau in dem Moment, in dem es stattfand. Die Patienten konnten sie nicht sehen, und die Überwachung wurde nie vom eigenen Hausarzt des jeweiligen Patienten durchgeführt.
Das Team legte im Voraus vier Gründe für einen vorzeitigen Abbruch des Gesprächs fest. Dazu gehörten das Risiko, dass der Patient sich selbst oder anderen Schaden zufügen könnte, erheblicher durch den Chatbot verursachter Stress, eine vom überwachenden Arzt festgestellte mögliche Gesundheitsgefährdung sowie der ausdrückliche Wunsch des Patienten, das Gespräch zu beenden. Letztlich erfüllte kein einziges Gespräch eine dieser Bedingungen.
Fehlerfrei verlief es jedoch nicht. Nach jedem Gespräch besprach der überwachende Arzt alles und korrigierte mögliche Irrtümer. Die Forscher verzeichneten eine Halluzination, also eine Situation, in der sich die künstliche Intelligenz etwas ausdenkt und es als Tatsache darstellt. In fünf Gesprächen ergänzten die Ärzte Erklärungen, und einen Fall stuften sie als leicht schädlich ein. Darin erwähnte der Chatbot ein Lymphom, also eine Krebserkrankung der Lymphknoten, wodurch der Patient unnötig verängstigt werden konnte. Rodman weist darauf hin, dass der Chatbot nur mit einem kurzen Gespräch und nicht mit der vollständigen Patientenakte arbeitet und deshalb seltener Dinge erfindet.
Einschätzungen auf ärztlichem Niveau
Ein Arzt beginnt gewöhnlich nicht mit einer einzigen sicheren Diagnose, sondern erstellt eine Liste von Krankheiten, die hinter den Beschwerden stecken könnten, und schließt sie nach und nach aus. Dasselbe tat das System AMIE. Die Forscher verglichen seine Listen mit der tatsächlichen Erkrankung des Patienten, die von Ärzten acht Wochen nach dem Besuch anhand der Ergebnisse aller Untersuchungen festgestellt wurde. In neunzig Prozent der Fälle erschien die richtige Krankheit auf der Liste, in drei von vier Fällen gehörte sie sogar zu den ersten drei Vorschlägen.
Bei einer sogenannten verblindeten Bewertung beurteilten Fachleute die Vorschläge des Chatbots und der echten Ärzte, ohne zu wissen, wer welchen verfasst hatte. Der Chatbot schnitt sowohl bei der Einschätzung der Krankheit als auch beim Plan für das weitere Vorgehen ähnlich ab wie die Hausärzte. Die Menschen im weißen Kittel waren jedoch dort überlegen, wo es um Praxistauglichkeit und Kosten ging, etwa bei der Frage, welche Untersuchungen wirklich sinnvoll sind und welche unnötig Geld kosten würden. Der Arzt Peter Brodeur vom Krankenhaus BIDMC berichtete, seine Kollegen hätten den Chatbot mit einem sehr fähigen Medizinstudenten oder einem Berufsanfänger unter den Ärzten verglichen.
Patienten blieben vorsichtig
Die Ärzte füllten für sechzig Patienten einen Fragebogen aus, und in vierundvierzig Fällen hatten sie zuvor das Gespräch oder die Zusammenfassung des Chatbots gelesen. In dreiunddreißig dieser Fälle, also etwa drei Vierteln, half ihnen dies bei der Vorbereitung. In mehr als der Hälfte der Fälle gaben sie an, dass die Unterlagen die Art der Behandlung des Patienten beeinflusst haben könnten.
Die Patienten waren gespaltener. Ihre Einstellung zur künstlichen Intelligenz verbesserte sich nach dem Gespräch, und dieser Eindruck hielt auch nach dem Arztbesuch an; die meisten würden das System AMIE erneut verwenden. Weniger als die Hälfte vertraute jedoch darauf, dass der Chatbot ihre Daten geheim halten oder ehrlich mit ihnen umgehen würde. Rodman merkte an, dass kein Patient dem Chatbot vertraute, bevor er verstanden hatte, dass dieser die Informationen an seinen Arzt weitergab. Marc Cohen, der am Krankenhaus BIDMC die hausärztliche Versorgung leitet und zu den Hauptautoren gehört, spricht von einer Zukunft, in der Patienten, Ärzte und künstliche Intelligenz zusammenarbeiten werden.
Was die Studie nicht nachgewiesen hat
Es handelte sich um eine sogenannte Machbarkeitsstudie, die zeigen soll, ob sich etwas überhaupt sicher erproben lässt, und nicht darum, ob es besser funktioniert als das bisherige Vorgehen. Es fehlte eine Kontrollgruppe aus Patienten ohne Chatbot, mit der die anderen hätten verglichen werden können. Ohne sie lässt sich nicht sagen, ob AMIE die Versorgung tatsächlich verbessert hat. Zudem wurde die Untersuchung nur in einer einzigen Praxis durchgeführt, und es nahmen ausschließlich Freiwillige teil. Von mehr als vierzehnhundert Akutbesuchen meldeten sich lediglich etwas mehr als hundert Personen an, von denen achtundneunzig beide Teile abschlossen.
Die Teilnehmer waren zudem keine typischen Patienten der Praxis. Sie waren jünger und technikaffin, während mehr als die Hälfte aller Akutpatienten älter als sechzig Jahre war. Schwangere Frauen, Menschen mit psychischen Problemen und alle, die eine Notfallversorgung benötigten, waren von der Studie ausgeschlossen, sodass wir nicht wissen, wie der Chatbot mit lebensbedrohlichen Situationen umgehen würde. Zudem hatte AMIE keinen Einblick in die Patientenakte und konnte den Patienten weder untersuchen noch seinen Blutdruck messen. Menschen, die wissen, dass sie beobachtet werden, können sich außerdem anders als gewöhnlich verhalten.
Experten warnen, dass solche Programme Ärzte bislang nicht ersetzen können. AMIE bleibt ein experimentelles Projekt, kann von der Öffentlichkeit nicht genutzt werden und besitzt keine Zulassung für den Einsatz in Krankenhäusern. Google selbst räumt ein, dass der Nutzen für Patienten durch wesentlich größere Studien bestätigt werden muss.
Die Forschung wurde vom Unternehmen Alphabet finanziert, zu dem Google gehört. Adam Rodman arbeitete während eines Teils der Studie als Gastforscher bei Google, also als Fachmann, der für eine gewisse Zeit an eine andere Institution wechselt und an deren Forschung mitwirkt.
Quellen: nytimes.com und thelancet.com
