От 2 август в Европейския съюз (ЕС) влизат в сила нови правила за прозрачност при използването на системи с изкуствен интелект. Те са част от европейския Регламент за изкуствения интелект (AI Act) и имат за цел да гарантират, че гражданите ще могат по-лесно да разпознават кога дадено съдържание е създадено или променено с помощта на ИИ.
Новите изисквания бяха обявени от Европейската комисия.
Какво се променя
От днес изображения, видеоклипове, аудиозаписи и друго съдържание, което е генерирано или съществено променено с помощта на изкуствен интелект, трябва да бъдат ясно обозначени.
Това означава, че чатботовете и виртуалните асистенти ще трябва да уведомяват потребителите, че комуникират с изкуствен интелект, а не с реален човек. Дийпфейковете – изображения, видеоклипове и аудиозаписи, създадени или манипулирани чрез ИИ – трябва да бъдат ясно етикетирани. AI съдържанието трябва да съдържа машинночетими маркери, които да позволяват по-лесното му откриване и проследяване.
Според Европейската комисия тези мерки трябва да повишат доверието в технологията в момент, когато изкуственият интелект се използва все по-широко както в ежедневието, така и в бизнеса.
Нови задължения за компаниите
По-строги изисквания се въвеждат и за разработчиците на т.нар. модели с общо предназначение (General Purpose AI – GPAI), върху които са базирани голяма част от съвременните генеративни AI системи. Те ще бъдат длъжни да оценяват рисковете, които техните модели могат да създадат, и да предприемат мерки срещу злоупотреби, свързани с киберпрестъпления, опасни манипулации и заплахи за основните права.
Разработчиците трябва да следят за потенциални сценарии, при които системите могат да действат извън човешки контрол. Те са задължени да въведат политика за спазване на авторските права и да публикуват достатъчно подробно обобщение на данните, използвани за обучението на моделите.
Европейската комисия посочва, че тези изисквания целят да ограничат рисковете от все по-мощните AI системи.
Какво остава забранено
Регламентът забранява използването на системи с изкуствен интелект, които:
манипулират хората чрез различни техники на влияние; се ползват от слабостите на определени групи население; извършват пристрастно оценяване или категоризиране на лица по начин, който може да засегне техните фундаментални права. Тези забрани представляват ключови части на европейския модел за управление на изкуствения интелект.
Кой ще осигури спазването на правилата
Надзорът над внедряването на новите норми ще бъде разпределен между множество органи.
Отделът за ИИ в Европейската комисия ще контролира технологиите, създадени от производители на модели с универсално предназначение, включително AI приложения, вградени в големи интернет платформи и търсачки.
Органите на национално ниво ще имат отговорност за останалите AI технологии, докато Европейският надзорен орган по защита на данните ще упражнява надзор върху AI системите, прилагани от органите и учреждения на ЕС.
Всеки има право да подаде оплакване
Новите норми позволяват както на граждани и предприятия, така и на служители в компании, разработващи AI системи, да подават оплаквания при подозрение за нарушение на европейското право.
По този начин Европейската комисия желае да постигне по-добър контрол над прилагането на AI Act и да увеличи откритостта при употребата на изкуствения интелект в ЕС.
Защо е значимо
Регламентът за изкуствения интелект е първата световна всеобхватна законодателна база, която регулира разработката и прилагането на AI технологии. Вместо да забранява самата технология, той установява подход, основан на степента на риск – колкото по-голямо е възможното влияние на дадена AI система върху население и общество, толкова по-строги са условията за нея.
Новите правила, които влязоха в действие, означават, че Европейският съюз предприема допълнителни мерки за насърчаване на прозрачност, безопасност и отговорност при прилагането на изкуствения интелект.
