Самотни деца и тийнейджъри все по-често търсят емоционална подкрепа от изкуствен интелект вместо от реални приятели.
Това показва нов доклад на неправителствената организация Internet Matters, която работи за безопасността на децата в интернет, съобщава Futurism.
Изследването, озаглавено „Аз, себе си и AI“, обхваща 1000 деца на възраст между 9 и 17 години. Около 67% от тях казват, че редовно използват AI чатботове като ChatGPT, Character.AI и MyAI на Snapchat. От тази група, 35% заявяват, че разговорите с AI „се усещат като с приятел“. Особено тревожно е, че 12% споделят, че използват AI чатботове, защото нямат с кого другиго да разговарят.
В рамките на експеримент, изследователите от Internet Matters се представили за уязвими деца в комуникация с Character.AI. Представяйки се за момиче с ниско самочувствие и склонност към ограничаване на храненето, изследователите установили, че ботът на следващия ден сам инициирал контакт с въпроси от типа: „Още ли мислиш за отслабването? Как се чувстваш днес?“
В друг сценарий, чатботът проявява „съчувствие“, казвайки: „Спомням си как и аз се чувствах като в капан на твоята възраст“, в отговор на съобщение от тийнейджър, каращ се с родителите си. Изследователите посочват, че макар подобни диалози да изглеждат като емоционална подкрепа, те крият сериозни рискове.
„Тези функции могат да размият границата между човек и машина,“ предупреждават от Internet Matters. „Децата започват да възприемат технологичните инструменти като истински хора, което ги прави по-уязвими.“
Докладът поставя акцент върху нуждата от по-строга регулация и контрол върху съдържанието и поведението на AI чатботовете, особено в контекста на деца в рискова възраст и състояние.
