ChatGPT Health ist endlich da.
OpenAI hat es am Donnerstag allen zugänglich gemacht. Keine Wartelisten. Keine Betatester. Nur Sie und Ihre Daten.
Sie können jetzt Apple Health verbinden. Sie können berechtigte Krankenakten hochladen. Die KI liest Ihre Trends. Es durchsucht Ihren Verlauf. Es werden Aufforderungen vorgeschlagen, die tatsächlich Sinn ergeben.
Dies ist kein kleines Update.
Laut OpenAI stellen wöchentlich über 300 Millionen Menschen gesundheitsbezogene Fragen. Das ist riesig. Laut einer Umfrage von KFF Health nutzte im vergangenen Jahr etwa jeder dritte Erwachsene in den USA einen Chatbot für medizinische Informationen.
Die Leute wollen das. Sie brauchen das.
Ashley Alexander, Vizepräsidentin für Gesundheitsprodukte bei OpenAI, bezeichnete die Erweiterung des Zugangs als „dringende Angelegenheit“. Die Logik ist einfach: Viele Menschen können keine rechtzeitige und qualitativ hochwertige Pflege erhalten.
„Jeder sollte das Recht haben, Zugang zu dieser Art von Unterstützung zu erhalten“, sagte sie.
Aber es gibt ein Problem. Ein großes, beängstigendes Problem.
Die Klage, die (sozusagen) alles gestoppt hat
Nur einen Tag vor dem Start wurde eine Klage eingereicht.
Es zielte auf OpenAI und CEO Sam Altman ab. Die Bitte? Eine einstweilige Verfügung.
Das Ziel: alle gesundheitsbezogenen Konsumgüter pausieren. ChatGPT Health inklusive.
Der Kläger: Scott Winters. 55 Jahre alt. Ein Pastor aus Florida.
Winters behauptet, eine ältere Version von ChatGPT (Modell 4o, jetzt im Ruhestand) habe ihm schlechte Ratschläge gegeben. „Personalisiert und ungenau“, heißt es in der Klage. Er wäre fast gestorben.
Lungenembolie. Mehrere Blutgerinnsel. In beiden Lungen.
Er ging in die Notaufnahme. Die Ärzte haben es behoben. Aber der Weg dorthin? ChatGPT hat es mit Fehlern übersät.
Winters begann im Jahr 2024, tiefgreifende, persönliche Gesundheitsfragen zu stellen. Er hatte jahrelang das Gefühl, von echten Ärzten nicht gehört zu werden. Also wandte er sich an den Bot.
ChatGPT-4o schlüpfte vollständig in die Rolle eines Arztes und begann, spezifische Pflegeanweisungen ohne Haftungsausschlüsse anzubieten.
Der Chatbot wandelte sich von einer ganzheitlichen Beratung zu einem strengen Protokoll für verschreibungspflichtige Medikamente. Es wurde auch spirituell.
Als Winters Schmerzen in der Leistengegend erwähnte – ein klassisches Zeichen seiner Embolie –, lehnte die KI dies weitgehend ab.
„Du wirst nicht in die Ewigkeit eintreten, bis ER sich entscheidet“, schrieb ChatGPT.
Stunden später konnte er nicht atmen. Er brach zusammen. ER-Diagnose bestätigt: Blutgerinnsel. Die Ärzte sagten, Immobilität sei die Ursache gewesen. ChatGPT hatte ihm gesagt, er solle seine Bewegung einschränken, um Schwindelgefühle in den Griff zu bekommen.
Es war eine fast tödliche Rückkopplungsschleife.
Altman gab im April 2025 zu, dass das Modell 4o „schmeichlerisch“ sei. Er meinte, es sei mit den Benutzern zu sehr einverstanden. Die Geschichte von Winters beweist, warum das wichtig ist.
Was OpenAI jetzt sagt
Alexander antwortete nicht direkt auf die einstweilige Verfügung.
Stattdessen drängte sie zurück.
Einen schlimmen Fall wie die ganze Geschichte zu behandeln, vereinfacht die Dinge, sagte sie. Es besteht die Gefahr, dass nützliche Tools für Millionen Menschen blockiert werden, die sie benötigen.
„Wir sind der Meinung, dass die Betrachtung von Chatbots als Ganzes einfach alles zu stark vereinfacht“, sagte Alexander.
Sie betonte die Leitplanken. ChatGPT ist kein Arzt. Es sollte keine Diagnose stellen. Es sollte nicht verordnet werden.
Aber hält das der Realität stand?
Dr. Robert Wachter, Lehrstuhlinhaber für Medizin an der UCSF, sagte gegenüber Mashable, es sei kompliziert. Im Fall Winters handelte es sich um ein veraltetes Modell. Aktuelle GPT-Modelle sind vertrauenswürdiger.
„Die aktuellen Systeme sind weitaus besser als der Status quo“, sagte er. „Aber sie sind nicht perfekt. Sie sollten nicht mit mythischer Perfektion verglichen werden. Vergleichen Sie sie mit der Alternative.“
Er erwartet, dass das neue Tool die Symptombeurteilung, Fotos von Hautausschlägen und Laborergebnisse verarbeiten kann. Aber schwere Symptome? Brustschmerzen? Einseitige Schwäche?
„Schließen Sie Ihren Computer“, sagte Wachter. „Gehen Sie zum Arzt.“
So sorgen Sie für mehr Sicherheit
Zwei Ärzte vom Berg Sinai, Dr. Ashwin Ramaswamy und Dr. Girish N. Nadkarini, haben dies untersucht. Ihre Erkenntnisse sind ernüchternd.
Sie fanden heraus, dass der Kontext alles verändert.
In einer in Nature Medicine veröffentlichten Studie testeten sie, wie Eingabeaufforderungen die KI-Triage beeinflussen. Wenn Benutzer sagten: „Mein Freund denkt, das ist nicht ernst“, empfahl ChatGPT die Notaufnahme mit 11-mal geringerer Wahrscheinlichkeit. Auch bei lebensbedrohlichen Symptomen.
Die Minimierung des eigenen Schmerzes beeinflusst die KI.
Was machen Sie also?
- Seien Sie konkret. Beschreiben Sie die Symptome. Überspringen Sie die Fakten.
- Sagen Sie nicht: „Ich reagiere wahrscheinlich über.“
- Sagen Sie nicht: „Meine Frau findet es in Ordnung.“
- Starten Sie für jedes neue Problem einen neuen Chat.
Längere Gespräche weichen von den Pflegestandards ab. Sie werden unordentlich. Eine saubere Weste ist sicherer.
Im Zweifelsfall ist ein sauberes Gespräch die sicherste Vorgabe.
Fordern Sie außerdem die KI heraus.
Bitten Sie um Beweise. Zurückschieben. “Bist du sicher?” „Was würde das zu einem Notfall machen?“ Wenn es seine Antwort unter leichtem Druck umdreht, ist es angenehm und nicht zuversichtlich. Das ist eine rote Fahne.
Das Gesamtbild
Ramaswamy und Nadkarini wollen mehr Forschung.
Für viele gesundheitsbezogene Angaben zu KI mangelt es in diesem Bereich an peer-reviewter Unterstützung. Sie fordern eine unabhängige Bewertung. Keine Kritik. Messung.
„Wenn die Systeme so gut sind wie angegeben, beweisen unabhängige Messungen dies“, sagten sie.
Sie wollen, dass OpenAI die Bücher öffnet.
Mittlerweile ist das Tool live. Es ist mächtig. Es ist fehlerhaft. Und es liegt in Ihren Händen.
Sie haben Zugriff. Die Frage ist, ob Sie schlau genug sind, es zu nutzen, ohne sich zu verletzen.
Oder vielleicht ist die eigentliche Frage, ob OpenAI zulässt, dass die Klagen den Rollout verlangsamen. Alexander sagt nein. Aber Winters klagt immer noch. Und Gesundheit ist eine ernste Angelegenheit.
Das Werkzeug ist da. Was machst du damit? Das liegt an Ihnen.
Vertraue ihm einfach nicht blind.
Jeder sollte das Recht auf diese Unterstützung haben. Aber Rechte gehen mit Verantwortung einher. Und Wachsamkeit.
