Es geht schnell. Eben fragst du nach einem seltsamen Ausschlag. Als nächstes schlägt ein KI-Bot eine Behandlung vor, die tödlich sein könnte. OpenAI hat offiziell die Tore geöffnet.
ChatGPT Health ist jetzt für jeden US-Benutzer über 18 Jahren und über alle Abonnementstufen hinweg verfügbar. Dies ist nicht mehr nur ein Betatest. Es handelt sich um einen Vollgas-Rollout, der es jedem mit einem iPhone oder Laptop ermöglicht, seine Apple Health-Daten in ein allgemeines Chat-Fenster einzugeben und zu fragen: „Was ist los mit mir?“
Der Zeitpunkt ist grotesk. Dieser Start fällt nur einen Tag, nachdem ein Pastor aus Florida OpenAI verklagt hat. In der Klage wird behauptet, der Chatbot habe eine fast tödliche Empfehlung gegeben, auf einen Arztbesuch zu verzichten. Die Firma ignorierte ihn damals. Jetzt skaliert es genau die Funktion, die den Rechtsstreit ausgelöst hat.
Die Daten, die Sie der Maschine zuführen
OpenAI behauptet, es wisse, was Sie wollen. Anfang Januar, während begrenzter Tests, nutzten Nutzer den Gesundheits-Hub 230 Millionen Mal pro Woche. Diese Zahl stieg auf 300 Millionen, bevor die Türen geöffnet wurden.
Die Menschen suchen verzweifelt nach Antworten. Sie möchten wissen, ob ihre Nahrungsmittelallergien wieder aufflammen. Sie wollen seltsame Symptome schnell angehen. Sie verbinden also alles.
Das System integriert jetzt Daten aus den Krankenhausakten von Epic und Oracle Health. Es stammt von One Medical. Es synchronisiert sich mit Function Health und MyFitnessPal. Alles davon.
Während der Testphase beobachtete OpenAI, dass 70 % der Abfragen außerhalb des dedizierten Gesundheits-Hubs erfolgten. Benutzer wollten keine separate Schnittstelle. Sie wollten kontextbezogene Antworten im Hauptchat. Sie wollten, dass der Bot weiß, dass sie Diabetiker sind, während sie einen Urlaubsplan besprechen.
Wie gut funktioniert es tatsächlich?
OpenAI setzt auf GPT 5.6-Luna. Genauer gesagt, das kleinste Modell in der neuesten Version.
Sie sagen, dass es GPT 5.15 auf HealthBench übertrifft. HealthBench ist ein Open-Source-Benchmark von OpenAI, der zur Bewertung von LLMs bei medizinischen Fragen entwickelt wurde. Wenn die Zahlen halten, ist das kleinste Modell bei der Triage besser als die Vorgängergeneration.
Aber es gibt einen Haken.
OpenAI sagt, dass es keine Benutzerdaten zum Trainieren seiner Modelle verwendet. Es arbeitet mit Ärzten zusammen, um Antworten zu verfeinern.
Das klingt sicher. Es fühlt sich professionell an. Es könnte sogar wahr sein.
Aber hier ist die harte Wahrheit: KI ist kein Arzt. Dabei handelt es sich um eine Mustervergleichs-Engine, die auf der gesamten medizinischen Bibliothek des Internets sowie Ihren persönlichen Apple Health-Kennzahlen basiert.
Das Unternehmen behauptet, dass diese Tools „nicht für den Einsatz in der Diagnose oder Behandlung gedacht sind“. Sie zitieren diese Haftungsausschlüsse ständig. Sie sagten der New York Times, dass sie gesundheitsbezogene Antworten „sicherer“ machen würden. Sie fordern Sie dringend auf, die Informationen zu überprüfen.
Verifizieren. Mit einem Menschen.
Warum das nicht aufhört
Andere Unternehmen hören nicht zu. Anthropic hat Gesundheitsfunktionen eingeführt. Google hat Gesundheitsfunktionen eingeführt. Beide wurden von ähnlichen Fehlern geplagt. Beide machten weiter.
Warum? Weil die Benutzer weiter klicken. Denn 300 Millionen Gesundheitsanfragen pro Woche bedeuten eine massive Verhaltensänderung. Die Menschen vertrauen dem Gerät mehr als den Wartezeiten beim Hausarzt.
OpenAI weiß das. Deshalb verstecken sie sich nicht mehr hinter einem geschlossenen Hub. Sie möchten, dass Sie ihre Daten in jeder Abfrage verwenden. Sie wollen eine nahtlose Integration.
Studien zeigen immer wieder, dass KI-Bots für medizinische Ratschläge unzuverlässig sind. Halluzinationen kommen häufig vor. Es kommt zu Konfabulationen. Dennoch geht der Rollout weiter.
Health in ChatGPT ist ab sofort für angemeldete US-Benutzer im Web und unter iOS verfügbar. Free, Go, Plus und Pro. Alle von ihnen.
Sie haben die Werkzeuge. Sie haben die Daten. Sie haben die Erlaubnis zu fragen.
Aber wenn der Bildschirm wieder aufleuchtet und Ihnen vorschlägt, die Einnahme Ihrer Herzmedikamente abzubrechen, weil in einem Subreddit-Beitrag etwas anderes steht … werden Sie damit aufhören?
Oder schließen Sie einfach den Tab und hoffen das Beste?
