Пациентът споделил с лекарите, че е търсил начини да намали приема на сол (натриев хлорид). Беше чел за вредните му ефекти и беше намерил съвети за намаляване на приема на натрий, но не можа да намери публикации за намаляване на приема на хлорид.
Въз основа на обучението си по диетология в колежа, мъжът решил да проведе собствен експеримент, за да елиминира хлоридите от диетата си. За съвет той се обърнал към чатбот с изкуствен интелект. Според пациента, чатботът предложил да се замени натриевият хлорид с натриев бромид – без да го предупреди за потенциалните рискове за здравето от подобно заместване.
Изследователите не успяха да получат достъп до историята на чата на пациента, но въз основа на времето на симптомите на отравяне, той е използвал или ChatGPT 3.5, или ChatGPT 4.0. В собствените си тестове лекарите получиха същата препоръка за натриев бромид, когато използваха ChatGPT 3.5 – вероятно версията, с която пациентът се е консултирал.
След три месеца употреба на натриев бромид вместо готварска сол, мъжът развил бромизъм – синдром, причинен от хронично прекомерно излагане на бромид или бром. Това рядко състояние възниква, когато токсинът се натрупа в тялото, потенциално предизвиквайки невропсихиатрични симптоми.
Пациентът отишъл в спешното отделение, страхувайки се, че съседът му го е отровил – параноята е един от признаците на бромизъм. Други симптоми включвали халюцинации, безсъние, акне, лоша координация и силна жажда. Тестовете показали повишени нива на бромид в кръвта му. След опит за бягство от болницата, той бил преместен в психиатрично отделение.
След като психичното му състояние се подобри с антипсихотично лечение, той успя да разкаже на лекарите за съветите, които е получил от ChatGPT.
При продължително излагане, бромидът се натрупва в тялото и нарушава функцията на невроните. През 19-ти и 20-ти век бромидът се е използвал в лекарства с рецепта и без рецепта, включително успокоителни и сънотворни. Въпреки това, през 70-те и 80-те години на миналия век регулаторните органи премахват бромидите от лекарствата без рецепта, след като откриват техните токсични ефекти.
Коментирайки случая, представители на OpenAI признаха ограниченията на услугата. Условията за ползване на ChatGPT гласят, че тя не е предназначена за диагностициране или лечение на медицински състояния и потребителите не трябва да разчитат на отговорите ѝ като единствен източник на медицинска информация или като заместител на професионални съвети.
