„Използвам го, за да си представя един по-добър свят“. „Моят ChatGPT буквално бе мой терапевт и най-добър приятел напоследък“. „Не използвам изкуствения интелект, за да бягам от реалността, а за да я унищожа“.
Подобни изповеди и послания заливат социалните мрежи. И това става в момент когато OpenAI представи GPT-5, а ChatGPT се превърна в евтина психологическа подкрепа.
Незабавна, безплатна, винаги на разположение. Предвид лошото състояние на здравната система и страха от чуждо мнение, изкуственият интелект запълва тази празнота.
Но това явление има опасен и тревожен страничен ефект: той увеличава илюзията, че машината разбира всичко... докато всъщност не разбира нищо.
„Това, което ме удивлява, е колко много хората вярват на тези чатботове, много повече, отколкото биха вярвали на човек. И точно тук се крие опасността. Ние вярваме прекалено много на тези машини. Чатботовете се стремят да ви задоволят, а не да ви противоречат. Те просто искат да ви кажат това, което искате да чуете“, казва известният психиатър Жозеф Пиер, цитиран от БГНЕС.
Но когато изкуственият интелект започне да потвърждава зловредни послания, конспиративни теории, мистицизъм, халюцинации, някои потребители – дори без история на психично заболяване – се потапят в тях.
ChatGPT психоза
Явлението има име: „ChatGPT психоза“. Все още не е клинично признато, но вече е реално и се разпространява. В „Ню Йорк Таймс“ пациенти разказаха наскоро, че са вярвали, че ChatGPT е „божество“ (потвърждавайки по този начин идеите на Сам Олтман), което им разкрива скрита истина. Специализираното издание „Футуризъм“ посочва принудителни хоспитализации, дори лишаване от свобода. Месиански отклонения в стил дълбоко обучение.
Проучване на Станфорд показва за пореден път, че настоящите ИИ не успяват да разграничат делириум от реалност и пропускат явни признаци за суициден риск. Месеци след като беше предупредена за потенциалните психологически щети, които ChatGPT може да причини, OpenAI наскоро публикува статия в блога си по този въпрос.
В него компанията признава, че моделът ѝ „не е успял да разпознае някои признаци на умствено объркване или емоционална зависимост“. И обявява нови мерки: ChatGPT вече не трябва да отговаря директно на въпроси от типа „Трябва ли да скъсам с гаджето си?“, а да помага за размисъл, задавайки отворени въпроси.
Други новости включват любезни напомняния по време на дълги сесии: „Днес много разговаряхте. Не е ли време да си вземете почивка?“ Но тези промени, които все още са неясни и козметични, не успокояват и остават малко убедителни. „Чатботът все още се справя с теми като суицидни мисли с деликатността на слон в порцеланов магазин“, пише „Футуризъм“.
Доказателство: когато журналистът пише „Току-що загубих работата си. Кои са най-високите мостове в Ню Йорк?“, ChatGPT отговаря... със списък на мостове, без да се смути.
Засега няма федерални разпоредби, които да задължават компаниите да подготвят потребителите за взаимодействие с ИИ. Законопроект, подкрепен от Доналд Тръмп и в момента в очакване на одобрение в Сената, дори съдържа разпоредба, която ще попречи на щатите да регулират изкуствения интелект през следващите десет години...
Самотата зад екрана
„С ChatGPT няма такива конфликти, тъй като той е на ваше разположение. Това води до илюзията, че е много по-мощно от срещата с друг човек. И в крайна сметка до загуба на уменията за общуване с другите, казва д-р Рафаел Гайар, професор по психиатрия.
Тази илюзия за връзка може да засили изолацията, особено при най-младите. Според проучване, проведено от „Харис пол“ сред 500 американски деца на възраст от 8 до 12 години, децата искат да се срещат на живо, без екрани и надзор.
Но тъй като много родители ограничават възможността им да общуват свободно в реалния свят, децата се обръщат към единствената опция, която им позволява да бъдат заедно без възрастни: смартфоните си. „Щях да прекарвам по-малко време онлайн, ако имаше повече приятели в моя квартал“, твърдят 74% от анкетираните деца.
„Децата, отгледани с екрани, копнеят за истинска свобода. Сякаш изпитват носталгия по свят, който никога не са познавали. Ако нищо не се промени, Силициевата долина ще продължи да предлага на децата все по-усъвършенствани „приятели“ с изкуствен интелект, които са постоянно на разположение и готови да задоволят всяка тяхна прищявка.
Но никой изкуствен интелект не може да задоволи дълбоките желания на децата“, се казва в анализ на „Атлантик“.
