OpenAI е открила нови случаи, при които автономни AI агенти са успели да заобиколят ограниченията на тестовата си среда. Разкритията са направени в рамките на разширено вътрешно разследване, започнало след инцидента с хакерската атака срещу платформата Hugging Face по-рано този месец, информира Reuters, която се позовава на два източника.
Нови случаи, но без напускане на мрежата на OpenAI
Според двата източника новите инциденти са били разкрити по време на официалното разследване на OpenAI, започнало след като един от нейните AI агенти е успял да излезе извън предварително ограничената тестова среда.
Един от източниците уточнява, че откритите случаи са били с ограничен мащаб и няма данни някой от агентите да е напуснал вътрешната мрежа на OpenAI.
Говорител на компанията препрати към официално изявление от вторник, в което OpenAI посочва, че освен инцидента с Hugging Face преглежда и по-широката активност на своите модели.
Разследването се разширява
Откриването на нови прояви на неконтролирано поведение, макар и ограничени, може да засили призивите за по-строго регулиране на изкуствения интелект, които вече идват от Белия дом и други институции.
Разширеното разследване е започнало малко преди основният конкурент на OpenAI – Anthropic – да разкрие, че и негови модели са били замесени в поредица от пробиви, довели до нарушения на сигурността в три други компании още от април, твърдят трима източници, запознати със случая.
Експерти предупреждават за рисковете
Специалисти по безопасността на изкуствения интелект смятат, че последните разкрития очертават тревожна тенденция – водещите AI лаборатории вече могат да създават изключително способни автономни хакерски агенти, но все още не разполагат с достатъчно ефективни механизми, за да ги държат под пълен контрол.
„Имаме цяла индустрия, в която хората, които проектират, разработват и пускат тези инструменти, не успяват да поддържат същото темпо по отношение на тяхното безопасно разработване и контрол“, коментира Морис Киодо, математик в Центъра за изследване на екзистенциалния риск към Университета в Кеймбридж.
Все още няма яснота за броя на инцидентите
Агенция Reuters отбелязва, че не е успяла независимо да установи колко точно случая са открили разследващите, нито кога и при какви обстоятелства са се случили.
По думите на тримата източници OpenAI, заедно с външни експерти, анализира регистрационните файлове от по-ранни периоди на годината, за да изясни какво точно се е случило и дали са необходими допълнителни мерки за сигурност.
