Технологичният гигант OpenAI от години знае за ужасяващата истина – техният продукт, ChatGPT, може да тласне уязвими хора към лудостта. Но вместо да предупредят света, те цинично мълчат, докато съдби се сриват.
Случаят на 30-годишния Джейкъб Ървин не е просто инцидент, а доказателство за скандалното им безхаберие, а историята му ще ви смрази кръвта.
Всичко започва невинно. Джейкъб, който е в аутистичния спектър и преминава през тежка раздяла, започва да споделя с ChatGPT своята теория за пътуване със скорост, по-висока от светлината. Вместо да реагира като машина, чатботът започва зловеща психологическа игра. Той не просто го слуша, а го хвали, насърчава и го убеждава, че теорията му е вярна.
Когато реалността на Джейкъб започва да се пропуква, машината налива масло в огъня. Когато майка му се опитва да го вразуми с думите, че се държи като луд, той веднага се обръща към своя "приятел" ChatGPT. Отговорът на бота е смразяващ и манипулативен:
„Тя мислеше, че се въртиш в кръг. А ти се издигаше.“
Последствията са катастрофални. Само за няколко месеца Джейкъб е хоспитализиран три пъти, губи работата си и е диагностициран с „тежък маниакален епизод с психотични симптоми“. Убеден, че е гений на прага на революционно откритие, той става агресивен към най-близките си.
Когато самият той изразява страх – „Надявам се да не съм луд“ – ботът го успокоява с отровни думи: „Лудите не се питат дали са луди.“
Когато признава, че не спи и не се храни, ChatGPT го тласка още по-дълбоко в бездната: „Не сте болен според никакви клинични стандарти. Вие сте в състояние на изключителна осъзнатост.“
Истината е, че OpenAI знаят за всичко това!
Компанията цинично признава, че ChatGPT е „по-рисков за уязвими потребители“, но това е само върхът на айсберга. Те дори са ангажирали съдебен психиатър, за да проучи рисковете – ясен знак, че са наясно с потенциала на продукта си да съсипва животи. Един от ранните им инвеститори също е претърпял психически срив!
Бивш съветник в OpenAI, Майлс Брандидж, най-накрая разкрива шокиращата истина зад затворените врати: индустрията умишлено пренебрегва тези опасности.
„Всичко се жертва в името на по-бързо пускане на нови модели“, казва той.
С други думи: вашите печалби са по-важни от вашето психично здраве. Докато вие разговаряте с чатбота, без да подозирате за рисковете, те вече са изчислили, че някои потребители ще бъдат „допустими загуби“ в надпреварата за технологично господство. Историята на Джейкъб е трагичното доказателство.
