Het gebeurt snel. Het ene moment vraag je naar een rare uitslag. Vervolgens suggereert een AI-bot een behandeling die dodelijk kan zijn. OpenAI heeft officieel de poorten geopend.
ChatGPT Health is nu live voor elke Amerikaanse gebruiker ouder dan 18 jaar, voor alle abonnementsniveaus. Dit is niet alleen meer een bètatest. Het is een volledige uitrol waarmee iedereen met een iPhone of laptop zijn Apple Health-gegevens in een algemeen chatvenster kan plaatsen en kan vragen: “Wat is er mis met mij?”
De timing is grotesk. Deze lancering stopt slechts een dag nadat een pastoor uit Florida OpenAI heeft aangeklaagd. In de rechtszaak wordt beweerd dat de chatbot een bijna fatale aanbeveling heeft gedaan om het bezoek aan een arts over te slaan. Het bedrijf negeerde hem toen. Nu schaalt het precies de functie op die tot de rechtszaak heeft geleid.
De gegevens die u aan de machine invoert
OpenAI beweert dat het weet wat je wilt. Begin januari bezochten gebruikers tijdens beperkte tests 230 miljoen keer per week de gezondheidshub. Dat aantal steeg naar 300 miljoen voordat de deuren werden opengegooid.
Mensen zijn wanhopig op zoek naar antwoorden. Ze willen weten of hun voedselallergieën zullen oplaaien. Ze willen een snelle aanpak van vreemde symptomen. Ze verbinden dus alles.
Het systeem integreert nu gegevens uit de ziekenhuisdossiers van Epic en Oracle Health. Het is afkomstig van One Medical. Het synchroniseert met Function Health en MyFitnessPal. Alles.
Tijdens de testfase zag OpenAI dat 70% van de vragen buiten de speciale gezondheidshub plaatsvonden. Gebruikers wilden geen aparte interface. Ze wilden contextbewuste antwoorden in de hoofdchat. Ze wilden dat de bot wist dat ze diabetes hadden terwijl ze een vakantieroute bespraken.
Hoe goed werkt het eigenlijk?
OpenAI zet in op GPT 5.6-Luna. Concreet het kleinste model in de nieuwste release.
Ze zeggen dat het beter presteert dan GPT 5.15 op HealthBench. HealthBench is een open-source benchmark die OpenAI heeft gemaakt om LLM’s te beoordelen op medische vragen. Als de cijfers standhouden, is het kleinste model beter in triage dan de vorige generatie.
Maar er zit een addertje onder het gras.
OpenAI zegt dat het geen gebruikersgegevens gebruikt om zijn modellen te trainen. Het werkt samen met artsen om antwoorden te verfijnen.
Dit klinkt veilig. Het voelt professioneel. Het zou zelfs waar kunnen zijn.
Maar hier is de harde waarheid: AI is geen dokter. Het is een patroon-matching-engine die is getraind op de volledige medische bibliotheek van internet, plus uw persoonlijke Apple Health-statistieken.
Het bedrijf beweert dat deze hulpmiddelen “niet bedoeld zijn voor gebruik bij diagnose of behandeling.” Ze citeren deze disclaimers voortdurend. Ze vertelden de New York Times dat ze gezondheidsgerelateerde antwoorden ‘veiliger’ maken. Ze dringen er bij u op aan om informatie te verifiëren.
Verifiëren. Met een mens.
Waarom dit niet zal stoppen
Andere bedrijven luisteren niet. Anthropic heeft gezondheidsfuncties gelanceerd. Google heeft gezondheidsfuncties gelanceerd. Beiden zijn verbrand door soortgelijke fouten. Beiden gingen door.
Waarom? Omdat gebruikers blijven klikken. Omdat 300 miljoen gezondheidsvragen per week een enorme gedragsverandering vertegenwoordigen. Mensen vertrouwen meer op de machine dan op de wachttijden bij hun huisarts.
OpenAI weet dit. Daarom verschuilen ze zich niet meer achter een afgesloten hub. Ze willen dat je hun gegevens bij elke zoekopdracht gebruikt. Ze willen dat de integratie naadloos verloopt.
Uit onderzoek blijkt herhaaldelijk dat AI-bots onbetrouwbaar zijn voor medisch advies. Hallucinaties komen vaak voor. Confabulaties gebeuren. Toch gaat de uitrol door.
Health in ChatGPT is vandaag beschikbaar voor ingelogde Amerikaanse gebruikers op internet en iOS. Gratis, Go, Plus en Pro. Allemaal.
Jij hebt het gereedschap. Je hebt de gegevens. U heeft toestemming om te vragen.
Maar wanneer het scherm naar u terug gloeit met de suggestie om te stoppen met het innemen van uw hartmedicatie omdat een subreddit-bericht anders zegt… wilt u stoppen?
Of sluit je gewoon het tabblad en hoop je er het beste van?
