Изследователи на Facebook бяха принудени да спрат една от машините си с изкуствен интелект, след като откриха, че е започнала да комуникира на език, който те не могат да разберат. Инцидентът напомня за главния антагонист Скайнет в култовия филм "Терминатор". Може би главният изпълнителен директор на Tesla Илон Мъск е прав за това, че изкуственият интелект (ИИ) е "най-големият риск, пред който сме изправени".
В случая, принудил изследователите да дръпнат щепсела на машината с изкуствен интелект, върху която работили, системата не е започнала да спира компютрите по света или нещо подобно, но спряла да използва английски и започнала да използва език, който създава сама.

Боб: "Аз мога мога аз аз всичко останало.

Алис: "Топките са нулеви за мен, за мен към мен за мен при мен за мен при мен."

Горните пасажи, които са безсмислени за хората, са част от разговор между двама агенти с ИИ, разработени от Facebook изследователите. Агентите на ИИ системата, създадени да преговарят с хора, първо си говорили помежду си, използвайки обикновен английски език, но в крайна сметка създали нов език, който само те разбират.

Агентите с ИИ не били настроени да са ограничени само до английски език и така създали език, който да улесни и ускори комуникацията им. Изследователите на Facebook обаче решили да изключат ИИ агентите и да ги настроят да говорят един на друг само на английски.

Каква би била вредата, ако се оставят агентите с ИИ да комуникират помежду си на език, който са изобретили сами?
На първо място, хората няма да разбират какво си говорят системите за ИИ, използващи собствения си език. Системите за ИИ имат изключително сложни скрити мисловни процеси, които хората не са в състояние да разберат, а ако започнат и да говорят на непознат за тях език, тайната им ще бъде още по-опасна.

Ако агентите с ИИ имат право да говорят на език, който сами са създали, те вече нямат да имат нужда дори от човешка намеса. Според Мъск хората трябва да се страхуват от изкуствения интелект и поиска от управниците на САЩ да приложат регламенти относно технологията.

"Запознат съм с най-модерните системи с ИИ и мисля, че хората трябва да бъдат наистина загрижени за това", каза изпълнителният директор на Tesla по-рано този месец на лятната среща на Асоциацията на националните губернатори в Роуд Айлънд.
"Системите с изкуствен интелект могат да правят доста неща по-добре от хората и ако не се държат под контрол, ще се превърнат в нещо, което може да ни замести изцяло."