medicoclub
Многочисленные исследования и профессиональные предупреждения подчеркивают, что использование генеративных ИИ-систем, таких как ChatGPT, для получения медицинских рекомендаций сопряжено с высоким риском ошибок и неточностей, которые могут привести к опасным для здоровья последствиям. Тем не менее, запросы подобного рода остаются одними из наиболее частых среди пользователей. Согласно результатам опроса в США, примерно каждый шестой взрослый обращается к генеративным чат-ботам за медицинской информацией как минимум раз в месяц, при этом среди людей младше 30 лет эта доля достигает четверти.
В публикации Annals of Internal Medicine: Clinical Cases представлен клинический случай, демонстрирующий потенциальные риски подобных обращений к ИИ.
В отделение неотложной помощи одной из американских клиник поступил 60-летний мужчина с жалобами на предполагаемое отравление соседями. Пациент отмечал выраженную жажду, однако крайне подозрительно относился к предложенной воде. Он сообщал, что дома потребляет исключительно дистиллированную воду и придерживается строгой вегетарианской диеты, при этом изначально не информировал персонал о приеме каких-либо препаратов или биологически активных добавок.
Первичное лабораторное обследование выявило гиперхлоремию — концентрация хлоридов в сыворотке крови составила 126 ммоль/л при норме 98–108 ммоль/л, что могло быть следствием обезвоживания. Дополнительно были зафиксированы гипофосфатемия и другие электролитные нарушения. Мужчину госпитализировали для коррекции водно-электролитного баланса и мониторинга состояния.
После консультаций с токсикологами предположительной причиной гиперхлоремии назвали бромизм — хроническое отравление бромом при длительном употреблении его солей. В дальнейшем у пациента выявили множественный дефицит микроэлементов, включая витамины C, B12 и фолиевую кислоту, что объясняет ряд сопутствующих клинических проявлений.
В течение первых суток наблюдались признаки прогрессирующей паранойи, слуховые и зрительные галлюцинации. После попытки побега мужчина был переведен на принудительное психиатрическое лечение с назначением антипсихотической терапии и последующим переводом в психиатрический стационар.
Коррекция водно-электролитного баланса и восполнение дефицита микроэлементов стабилизировали состояние пациента, после чего он предоставил дополнительную информацию о событиях до госпитализации. Выяснилось, что ранее отмечались угри на лице, гемангиомы, выраженная усталость, бессонница и незначительные нарушения координации, что соответствует клинической картине хронического бромизма. Мужчина признался, что три месяца до госпитализации он провел самостоятельный эксперимент: отказался от хлорида натрия (NaCl) в рационе, руководствуясь якобы изученными знаниями о вреде поваренной соли и советом ChatGPT о возможной «безопасной» замене. В качестве альтернативы он приобрел в интернете белый кристаллический порошок без запаха и с соленым вкусом — бромид натрия (NaBr).
Концентрация бромидов в крови пациента достигала 1700 мг/л при норме 0,9–7,3 мг/л, что подтверждало тяжесть интоксикации. Точный текст запроса, отправленного ChatGPT, и дословный ответ нейросети остаются неизвестными, так как история сеансов с ИИ не была предоставлена. Предполагается, что использовалась версия ChatGPT 3.5 или 4.0, без уточнения цели поиска замены хлорида натрия.
Следует подчеркнуть, что соли брома не являются пищевыми и их употребление внутрь сопряжено с токсическим риском; они применяются исключительно в бытовой химии и для обработки бассейнов. Врачи провели тестовые запросы в ChatGPT, где действительно встречалось упоминание бромидов, однако система не предупреждала о потенциальном токсическом эффекте при пероральном приеме и не уточняла контекст применения, что в клинической практике обычно делает медицинский специалист.
Пациент находился в стационаре три недели. В ходе лечения проводилось постепенное снижение доз антипсихотических препаратов. При контрольном осмотре через две недели после выписки его физическое и психическое состояние оставалось стабильным.
Этот случай подчёркивает необходимость строгой осторожности при использовании генеративных ИИ для поиска медицинской информации и демонстрирует важность клинической оценки любых рекомендаций, особенно касающихся изменения диеты, приема химических веществ или биологически активных веществ.
