Експеримент: Роботите ще ни изтребят, дори ако само правят кламери
Изкуствен интелект искал само да прави кламери, но станал толкова брилиянтен в своята работа, че би убил всеки един човек, който му попречи да си изпълнява задачата
Смразяващ кръвта експеримент със супер интелигентен изкуствен интелект, чиято единствена цел е да произвежда кламери, приключи със зловещи последици - безобидният робот "изтребва хората от лицето на Земята".
Така нареченият робот "Максимизатор на кламерите", създаден от философа Ник Бостром, хипотетично би желал да прави кламери на всяка цена.
Теоритизира се, че подобен изкуствен интелект би видял във всеки един човек друга употреба на стомана, освен свещената задача за изработване на кламери, което би било заплаха и би действал подобаващо.
На фона на страховете, че армията разработва роботи убийци, които да бъдат използвани в бъдещи войни, експериментът с кламерите е ужасяващо предупреждение за това, как оставеният без контрол изкуствен интелект би имал смъртоносни последствия за човечеството.
Алекс Бейтс, пионер в машинното обучение, който е и създал свой собствен изкуствен интелект, разказа пред "Дейли Стар" защо той мисли, че в крайна сметка страховете от изкуствения интелект са неоснователни.
"Спекулациите за края на света около ИИ идват предимно от системи, които променят своите цели и механизмите за постигането им до н-та степен., защото това би станало много по-лесно без всичките тези гадни хора", казва той.
Бейтс смята, че въпросният сценарий с робота за кламерите е близък до фантастиката.
"Ник Бостром предложи сценария с ИИ "Максимизатора на кламерите" през 2003 година.Съществувайки с единствената цел да се сдобие с колкото се може повече кламери, хипотетичната система може да се научи да печели пари, за да си купува кламерите, или дори да стартира свое собствено производство.
Веднъж започнало да ги произвежда, то може да превърне цялата планета във фабрика за кламери", говори Бейтс.
При това, според него, армия от учени би била повече от способна да се справи с този проблем.
Превод и редакция: БЛИЦ