Dzieje się to natychmiast. Minutę temu zadawałeś pytanie dotyczące dziwnej wysypki, a za chwilę bot AI sugeruje leczenie, które może być śmiertelne. OpenAI oficjalnie otworzyło swoje podwoje.
ChatGPT Health jest teraz dostępny dla wszystkich użytkowników w USA, którzy ukończyli 18 lat, łącznie ze wszystkimi typami subskrypcji. To już nie jest tylko beta-test. Jest to pełnoprawna wersja, która pozwala każdemu posiadaczowi iPhone’a lub laptopa załadować dane z aplikacji Apple Health do zwykłego okna czatu i zadać pytanie: „Co jest ze mną nie tak?”.
Czas uruchamiania jest po prostu skandaliczny. To wydanie pojawia się dokładnie dzień po tym, jak pastor z Florydy złożył pozew przeciwko OpenAI. W pozwie zarzucono, że chatbot wydał niemal śmiertelne zalecenie, aby nie odwiedzać lekarza. Następnie firma go zignorowała. Teraz skaluje tę samą funkcję, która była przyczyną procesów sądowych.
Jakie dane przesyłasz do maszyny?
OpenAI twierdzi, że wie, czego chcesz. Podczas ograniczonych testów na początku stycznia użytkownicy korzystali z centrum medycznego 230 milionów razy tygodniowo. Liczba ta wzrosła do 300 milionów, zanim usługa została udostępniona wszystkim.
Ludzie desperacko szukają odpowiedzi. Chcą wiedzieć, czy ich alergie pokarmowe się pogłębią. Chcą szybkich opinii na temat dziwnych objawów. Więc wszystko łączą.
System integruje obecnie dane z elektronicznych kart zdrowia Epic i Oracle Health. Pobiera informacje z One Medical, Function Health i synchronizuje się z MyFitnessPal. Absolutnie wszystko.
W fazie testowej OpenAI odkryło, że 70% żądań pochodziło spoza dedykowanego centrum medycznego. Użytkownicy nie chcieli osobnego interfejsu. Chcieli odpowiedzi kontekstowych na czacie głównym. Chcieli, aby podczas omawiania planów wakacyjnych bot wiedział, że mają cukrzycę.
Jak dobrze to faktycznie działa?
OpenAI stawia na model GPT 5.6-Luna. Mianowicie dla najmniejszego modelu w najnowszym wydaniu.
Twierdzi się, że przewyższa GPT 5.15 w wskaźnikach HealthBench. HealthBench to otwarty test porównawczy opracowany przez samą OpenAI w celu oceny dużych modeli językowych w zapytaniach medycznych. Jeśli liczby się utrzymają, najmniejszy model będzie skuteczniejszy niż poprzednia generacja w zakresie podstawowej segregacji pacjentów.
Ale jest jedno „ale”.
OpenAI twierdzi, że nie wykorzystuje danych użytkowników do uczenia swoich modeli. Współpracuje z lekarzami, aby udoskonalić odpowiedzi.
Brzmi bezpiecznie. Wygląda profesjonalnie. Być może nawet prawdziwe.
Ale oto trudna prawda: AI nie jest lekarzem. Jest to system dopasowywania wzorców przeszkolony w całej internetowej bibliotece medycznej oraz osobistych wskaźnikach Apple Health.
Firma podkreśla, że narzędzia te „nie są przeznaczone do stosowania w diagnostyce lub leczeniu”. Ciągle dokonują takich rezerwacji. W rozmowie z „The New York Times” powiedzieli, że dzięki nim działania medyczne są „bezpieczniejsze”. Zachęcają do weryfikowania informacji.
Sprawdź. Z żywą osobą.
Dlaczego to się nie skończy
Inne firmy nie słuchają. Firma Anthropic uruchomiła funkcje zdrowotne. Google’a też. Obie firmy poniosły już podobne błędy, ale nadal pracowały.
Dlaczego? Ponieważ użytkownicy ciągle klikają. Ponieważ 300 milionów zapytań medycznych tygodniowo oznacza ogromną zmianę w zachowaniu. Ludzie bardziej ufają maszynie niż czekaniu na wizytę u lekarza rodzinnego.
OpenAI o tym wie. Dlatego nie chowają się już za zamkniętym hubem. Chcą, abyś wykorzystywał ich dane przy każdym żądaniu. Dążą do bezproblemowej integracji.
Badania wielokrotnie wykazały, że botom AI nie można ufać w zakresie porad medycznych. Halucynacje są powszechne. Zmyślone fakty (konfabulacje) się zdarzają. Jednak uruchomienie trwa.
ChatGPT Health jest już dostępny dla zalogowanych użytkowników w USA za pośrednictwem Internetu i systemu iOS. Wersje Free, Go, Plus i Pro. Wszystkie.
Masz narzędzia. Masz dane. Masz pozwolenie, aby zapytać.
Ale kiedy na ekranie wyświetli się zalecenie, aby zaprzestać przyjmowania leków na serce, ponieważ tak napisano w poście na Reddicie… czy przestaniesz?
A może po prostu zamkniesz kartę i będziesz mieć nadzieję na najlepsze?
