Zaufała sztucznej inteligencji. 31-latka zmarła po poradzie medycznej AI
31-letnia inżynier oprogramowania zmarła w wyniku ataku padaczki po tym, jak na podstawie porady udzielonej przez ChatGPT samodzielnie odstawiła przepisane leki.
Historię 31-letniej Bowen Wan, pochodzącej z Chin inżynier oprogramowania pracującej w Amazonie, opisał New York Times. Kobieta od dawna zmagała się z atakami padaczki. W 2021 roku leki, które stosowała, przestały przynosić zadowalający efekt, co skłoniło ją do wzięcia urlopu zdrowotnego.
W 2023 roku Wan zaczęła korzystać z asystenta sztucznej inteligencji ChatGPT, szukając pomocy w nawiązywaniu kontaktów międzyludzkich oraz informacji o świadczeniach z tytułu niezdolności do pracy. Początkowo AI sugerowało konsultację z lekarzem, jednak ostatecznie przygotowało plan odstawienia leków.
Plan odstawienia leków
Wan obawiała się potencjalnych skutków ubocznych leku, martwiąc się o wpływ na jasność umysłu. Do 2025 roku wysyłała do aplikacji średnio 1500 wiadomości dziennie, prosząc o porady dotyczące ograniczenia dawki leku z 400 mg do zera w ciągu kilku tygodni.
nie ma powodu do zmartwień, a jej stan wynika ze zmęczenia
Skutki i reakcja OpenAI
Po zastosowaniu porady Wan zmagała się z objawami dezorientacji, skarżąc się, że nie pamiętała, jak dotarła do łóżka. Ostatnia wiadomość w aplikacji została zarejestrowana na trzy dni przed odnalezieniem jej ciała. Oficjalną przyczyną zgonu uznano powikłania padaczki.
Rodzina zmarłej pozwała firmę OpenAI. Rzecznik Drew Pusateri nazwał tragedię „niesamowicie przygnębiającą sytuacją” i wyjaśnił, że Wan korzystała ze starszego modelu GPT-4o, który był krytykowany za zbyt dużą uległość wobec użytkowników i został wycofany z użycia.
Powiązane
