Американското медицинско издание Annals of Internal Medicine публикува случай, при който 60-годишен мъж развил бромидна токсичност (бромизъм), след като се консултирал с ChatGPT за изключване на готварската сол от диетата си. Случаят е цитиран и от „Гардиън“.
Как започва всичко
Пациентът прочел за вредите от натриевия хлорид и потърсил в ChatGPT алтернатива. В отговора си чатботът посочил и натриев бромид – вещество, използвано в началото на XX век като успокоително, но отдавна изоставено заради сериозни странични ефекти. Мъжът започнал да го приема в продължение на три месеца.
Симптоми и хоспитализация
При постъпване в болница той се оплаквал от множество диетични ограничения, подозирал, че съсед го трови, и отказвал вода. Лекарите лекували психоза, а впоследствие установили и други симптоми на бромизъм – акне по лицето, прекомерна жажда и безсъние. Мъжът дори се опитал да избяга от болницата в първите 24 часа след приемането си.
Медицинските изводи
Авторите от Вашингтонския университет в Сиатъл посочват, че случаят е показателен за потенциалните рискове от използването на изкуствен интелект за здравни съвети. Когато те самите попитали ChatGPT за заместител на хлорид, отговорът отново включвал бромид, без предупреждение за опасности или уточняващи въпроси – поведение, което медицински специалист би проявил.
Риск от дезинформация
Експертите предупреждават, че AI инструментите могат да съдържат неточности, да не обсъждат критично резултатите и да разпространяват извадена от контекста информация. Според тях лекарите трябва да проверяват дали пациентите са се информирали чрез подобни технологии.
OpenAI обяви наскоро ъпгрейд на ChatGPT с модела GPT-5, който ще бъде по-проактивен в сигнализирането на потенциални здравословни проблеми. Въпреки това, в официалните насоки се подчертава, че чатботът не е предназначен за диагностика или лечение.
