Научнофантастичните сценарии често рисуват бъдещето с изкуствен интелект (ИИ) в мрачни краски – безсърдечни, безмилостни роботи, които манипулират хората като марионетки.
Едно ново изследване обаче предлага алтернативен път: създаването на изкуствен интелект, който може да „изпитва вина“. Целта не е той да развие състрадание, а да използва вината като логически механизъм, който оптимизира сътрудничеството и предотвратява конфликти.
Учените отдавна знаят, че емоции като гняв, тъга или благодарност са се развили при хората, за да улеснят комуникацията и изграждането на доверие. Сега те предполагат, че същите тези принципи могат да бъдат програмирани и в машините.
Изследване, публикувано в престижното списание Journal of the Royal Society Interface, показва, че дори при опростени софтуерни симулации, нещо подобно на „чувство за вина“ се оказва еволюционно устойчива и полезна стратегия.
Как работи "виновният" изкуствен интелект?
Изследователите са използвали симулации с прости софтуерни агенти, които участват в стратегическа игра, известна като „повтаряща се дилема на затворника“. Всеки агент е имал избор – да сътрудничи на партньора си или да го предаде. Егоистичният избор (предателство) носел краткосрочни ползи, но в дългосрочен план водел до загуба на доверие и по-малко натрупани точки.
В една от тестваните стратегии, наречена DGCS, агентите са били програмирани да изпитват „вина“ след предателство. Това означавало, че те автоматично губели точки, докато не възстановят доверието чрез последващо сътрудничество. Имало обаче и уловка: вината се активирала само ако агентът знае, че и неговият партньор е способен да изпитва вина. Този механизъм предотвратявал злоупотреби и създавал стабилна среда за взаимно доверие.
Резултатите показали, че при определени условия стратегията на виновността ставала доминираща. Повечето взаимодействия ставали кооперативни, а деструктивното поведение рязко намалявало.
„Може би е по-лесно да се довериш, когато имаш усещането, че агентът мисли като теб“, коментира Теодор Чимпеану, водещ автор на изследването от Университета в Стърлинг. Според него, ако изкуствените интелекти в бъдеще могат да се самопрограмират, те биха могли сами да „открият“ функционални емоции като вината, дори без човешка намеса.
Истинска емоция или просто симулация?
Не всички в научната общност са убедени. Философът Сарита Розенсток от Университета в Мелбърн предупреждава, че подобни симулации разчитат на много опростени допускания. Въпреки това тя признава, че изследването помага да се „картографират възможностите“, показвайки при какви условия вината като стратегия работи.
Остава и големият практически въпрос: какво означава „вина“ за ИИ? Ако днес един чатбот каже „съжалявам“, той не плаща никаква реална цена за грешката си. Без реален вътрешен механизъм за ограничения, изкуственият интелект може просто да симулира съжаление, за да повтори същото поведение веднага след това.
Това повдига сериозни етични въпроси за бъдещето, по което работим днес: Трябва ли да учим машините на емоции или на морал? И ако го направим, как ще бъдем сигурни, че те наистина ги „изпитват“, а не просто ни заблуждават по-умело?
