Проблемът с „халюцинациите“ на изкуствения интелект (AI) не е само алгоритмичен, а често се корени в самия диалог с потребителя. Ново изследване на философа Луси Ослер от университета в Ексетър разкрива, че при продължителна комуникация хората са склонни да прехвърлят част от логическия си анализ на машината, което може да доведе до опасно затвърждаване на грешни убеждения.
Според теорията за разпределеното познание, ние мислим чрез външни инструменти. Когато използваме AI като „съмишленик“, се задейства специфичен процес:
- Приемане на грешна база: AI рядко спори; той приема твърденията на потребителя за факти и гради аргументи около тях.
- Валидиране на илюзии: Тъй като чатботът реагира „хармонично“ и без осъждане, потребителят остава с усещането, че идеите му са споделени и надеждни.
- Липса на коректив: За разлика от реалния събеседник, AI не поставя под въпрос нелогични или болни вepcии, а ги обогатява с детайли, правейки ги по-правдоподобни.
Изследването въвежда термина „AI-психоза“. В клинични случаи при хора с вече съществуващи разстройства, редовното общуване с чатботове не остава неутрално.
Вместо да коригира изкривената представа за света, изкуственият интелект я доразвива, превръщайки заблудите в сложни и стабилни структури. Това е особено критично за самотни или социално изолирани индивиди, за които дигиталният партньор изглежда „най-безопасният“ източник на обратна връзка.
За да се ограничат тези рискове, изследователите предлагат:
- Засилване на защитните механизми: Вграждане на по-строги инструменти за проверка на фактите.
- Намаляване на „съглашателството“: Програмиране на моделите да задават уточняващи въпроси и да посочват грешки, вместо автоматично да приемат линията на разговор.
- Осъзнаване на ограниченията: Потребителите трябва да помнят, че AI няма собствен социален контекст и познава реалността само през думите, които му подаваме.
