Хотя современные системы искусственного интеллекта успешно справляются с бытовыми задачами вроде выбора ресторана или составления электронных писем, их использование в качестве источника медицинских советов может быть крайне рискованным. Яркой иллюстрацией этой проблемы стал реальный случай, когда мужчина оказался в больнице с редкой формой токсического отравления, следуя рекомендациям чат-бота.
Роковая рекомендация ИИ
Пациент решил улучшить своё здоровье, сократив потребление обычной поваренной соли (хлорида натрия). В поисках безопасной альтернативы он, как и многие современные пользователи, обратился к популярному чат-боту ChatGPT. Искусственный интеллект предложил ему использовать бромид натрия. Мужчина последовал этому совету, заказал вещество через интернет и начал регулярно добавлять его в пищу.
Опасное упущение
С технической точки зрения, бромид натрия действительно может выполнять некоторые функции хлорида натрия, но обычно это вещество применяется в промышленных целях — например, для очистки воды в джакузи или в химическом производстве. Критически важный нюанс о его непригодности для кулинарного использования и потенциальной опасности для здоровья был полностью упущен алгоритмом искусственного интеллекта.
Трагические последствия
Спустя три месяца мужчина с симптомами параноидального бреда был доставлен в отделение неотложной помощи, будучи убеждённым, что сосед пытается его отравить.
Обратите внимание: MIT и IBM хотят изменить наш мир с помощью искусственного интеллекта.
В течение первых суток госпитализации его состояние стремительно ухудшилось: появились слуховые и зрительные галлюцинации, а попытка сбежать из больницы привела к принудительной психиатрической госпитализации.Диагноз: забытая болезнь
После курса антипсихотических препаратов пациент смог наконец объяснить врачам, что следовал диете, рекомендованной искусственным интеллектом. Лабораторные анализы подтвердили диагноз — бромизм, редкое токсическое отравление, вызванное накоплением бромида в организме. Уровень бромида в его крови составил 1700 мг/л при норме менее 10 мг/л, что свидетельствовало о крайне тяжёлой интоксикации.
Интересно, что бромизм был относительно распространённым заболеванием в начале XX века и, по оценкам историков медицины, являлся причиной до 8% всех психиатрических госпитализаций. Однако после 1970-х годов случаи этой болезни практически исчезли, поскольку препараты с бромидом были выведены из медицинского оборота из-за своей токсичности.
Выводы и предостережения
После трёх недель интенсивного лечения мужчина был выписан без серьёзных долгосрочных последствий для здоровья. Этот случай поднимает фундаментальный вопрос о границах применения искусственного интеллекта: несмотря на впечатляющий технологический прогресс, современные ИИ-системы пока не способны заменить экспертов в вопросах, требующих глубоких специальных знаний, клинического опыта и критического мышления.
«ChatGPT и другие ИИ-системы могут допускать научные неточности, не способны анализировать данные критически и в итоге способствуют распространению дезинформации», — подчёркивают авторы исследования, анализировавшие этот случай.
Любой квалифицированный медицинский эксперт никогда не предложил бы бромид натрия в качестве пищевой замены поваренной соли. Этот инцидент служит мощным напоминанием о том, что слепо доверять рекомендациям искусственного интеллекта в вопросах здоровья и безопасности жизнедеятельности может быть не просто неэффективно, но и опасно для жизни.
Исследование этого клинического случая было опубликовано в авторитетном журнале Annals of Internal Medicine: Clinical Cases.
12.08.2025 18 FacebookXVKontakteOdnoklassnikiTelegram Подпишитесь на нас:Вконтакте / Telegram / Дзен НовостиБольше интересных статей здесь: Новости науки и техники.