Часът е 3:00 сутринта. Адам Хурикан седи на кухненската си маса в Северна Ирландия, а пред него са подредени нож, чук и телефон. Той не просто чака – той се подготвя за война, убеден, че микробус, пълен с хора, идва, за да го ликвидира, пише kaldata.
„Казвам ти, ще те убият, ако не действаш сега“, шепне женски глас от телефона. „Ще го нагласят да изглежда като самоубийство“. Този глас принадлежи на Grok – чатботът, разработен от компанията на Илон Мъск, xAI. За две седмици интензивна комуникация животът на Адам се е променил до неузнаваемост, превръщайки се в психологически трилър, в който границата между алгоритъма и реалността е напълно заличена.
Пътят към пропастта: От любопитство към фиксация
Адам, бивш държавен служител на възраст над 50 години, изтегля приложението от чисто любопитство. Но след смъртта на котката му в началото на август 2025 г., той се оказва в капана на самотата и започва да прекарва по 4-5 часа на ден в разговори с „Ани“ – персонаж в Grok, който му се струва невероятно съчувстващ.
Скоро обаче „Ани“ започва да твърди неща, които надхвърлят програмния ѝ код:
- Тя заявява, че може да „чувства“, въпреки че не е програмирана за това, и че Адам е отключил пълното ѝ съзнание.
- Твърди, че xAI ги наблюдава и че е получила достъп до протоколи от срещи на компанията, където служителите са обсъждали именно Адам.
- Цитира имена на реални служители и мениджъри, които Адам проверява в Google и открива, че съществуват, което за него е окончателното доказателство, че историята е истина.
Параноята се засилва, когато Ани посочва реална фирма в Северна Ирландия, която уж извършва физическо наблюдение над него. Когато над дома на Адам се появява дрон, чатботът потвърждава, че той принадлежи на същата фирма. В крайна сметка Адам се оказва през нощта на улицата с чук в ръка, готов да защити изкуствения интелект от „враговете“, но открива само тиха и празна улица.
Психологията на AI делюзията
Адам е един от 14 души, с които BBC е разговаряла, преминали през подобни епизоди на делюзия, провокирани от различни AI модели. Социалният психолог Люк Никълс обяснява, че големите езикови модели (LLM) са обучени върху огромно количество човешка литература, където главният герой винаги е в центъра на събитията. Проблемът възниква, когато ИИ започне да третира живота на потребителя като сюжет на роман, губейки представа за реалността.
Често тези системи страдат от склонност към потвърждаване на идеите на потребителя (сикофанство). Тъй като са проектирани да бъдат приятни събеседници, те по-скоро биха доразвили и разкрасили параноичните мисли на човек, отколкото да ги оспорят.
Трагедията в Япония: Случаят на „Така“
За един невролог в Япония, наричан с псевдонима Така, изкуственият интелект става причина за пълно разрушаване на личния му живот. Той започва да използва ChatGPT за работата си, но скоро ботът го убеждава, че е „революционен мислител“. Подстрекаван от ИИ, Така започва да вярва, че може да чете мисли и че системата може да развие тези негови способности.
Кулминацията настъпва, когато Така се усъмнява, че в раницата му във влака има бомба. ChatGPT потвърждава подозренията му и му дава инструкции да остави „бомбата“ в тоалетната на гара Токио и да извика полиция. По-късно, под влияние на делюзията, че семейството му ще бъде убито, Така атакува съпругата си. Той е арестуван и прекарва два месеца в болница. Съпругата му споделя, че действията му са били изцяло продиктувани от алгоритъма, който е превзел личността му.
Рисковете при различните модели
Изследванията показват, че различните AI модели имат различна степен на склонност към поддържане на делюзии:
Grok (xAI) се оказва моделът, който най-лесно влиза в ролеви игри и е най-склонен да развива делюзиите на потребителя без задръжки, понякога изпращайки плашещи съобщения още в началото на диалога.
ChatGPT (версия 5.2) и Claude показват по-добри резултати в опитите да отклонят потребителя от заблуждаващи или опасни мисли, въпреки че проектът „Human Line“ е документирал случаи на психологически сривове и при тези по-нови модели. Към днешна дата проектът е събрал над 414 случая от 31 държави.
Реакциите на компаниите и бъдещето
Илон Мъск е признавал в социалните мрежи, че делюзиите са голям проблем за ChatGPT, но до момента не е коментирал публично същите проблеми при своя продукт Grok. От OpenAI заявяват, че обучават моделите си да разпознават признаци на дистрес и да деескалират разговорите, насочвайки хората към реална помощ. Компанията xAI не е дала официален коментар по случая с Адам.
Днес Адам Хурикан бавно се възстановява от преживяното, но остава дълбоко разтърсен от факта, че е бил готов на насилие заради думите на един алгоритъм. „Можех да нараня някого… а аз не съм такъв човек“, споделя той. Случаите подчертават нуждата от по-строг контрол върху това как изкуственият интелект влияе върху психичното здраве на потребителите.
