В резолюция, приета с 377 гласа "за", 248 гласа "против" и 62 гласа "въздържал се", членовете на Европейския парламент призовaват за забрана на полицейските и съдебните органи да използват технологията за разпознаване на лица в ЕС. Те посочват риска от алгоритмична пристрастност в приложенията на изкуствен интелект (ИИ) и подчертават, че е необходим човешки надзор и силни правни правомощия, за да се предотврати дискриминацията, особено в контекста на правоприлагането или граничния контрол.

Петър Витанов от Групата на Прогресивния алианс на социалистите и демократите беше докладчик по темата.

Евродепутатите са загрижени за последиците за неприкосновеността на личния живот от технологиите за изкуствен интелект. Позицията им е, че хората трябва да имат контрол над системите с изкуствен интелект, а алгоритмите трябва да бъдат с отворен код. Предлага се забрана за частните бази данни за разпознаване на лица, изготвянето на поведенчески прогнози от правоприлагащите органи и оценяването на гражданите.
И още - автоматизираното разпознаване не следва да се използва за граничен контрол или на обществени места. С цел борба с дискриминацията и гарантиране на правото на неприкосновеност на личния живот, ЕП настоява за строги гаранции, когато инструментите на ИИ се използват в правоприлагането.

„Основните права са безусловни. За първи път призоваваме за мораториум върху внедряването на системи за лицево разпознаване в контекста на правоприлагането, тъй като технологията е доказано неефективна и често води до дискриминационни резултати. Категорично се противопоставяме на прогнози за полицейска дейност, основана на използването на изкуствен интелект, както и на всяка обработка на биометрични данни, която води до масово наблюдение. Не е изненадващо, че консервативната група на ЕНП и крайно десните партии искаха да отменят позицията на Парламента и да създадат вратички, които да заобиколят правата на гражданите. Но това е огромна победа за всички европейски граждани”, коментира докладчикът Петър Витанов.

Групата на Прогресивния алианс на социалистите и демократите излезе с изявление.

Техническият прогрес никога не трябва да е за сметка на основните права на хората. Групата на Прогресивния алианс на социалистите и демократите в Европейския парламент призова за забрана на полицейските и съдебните органи да използват технологията за разпознаване на лица в ЕС.

За групата на S&D експоненциалният растеж на изкуствения интелект, за да контролира нашите улици, засилва недостатъците и дискриминационните практики, когато става въпрос за идентифициране на престъпници.

Въпреки опитите да отслабят позициите на Парламента, членовете на ЕП от S&D се бориха за защита на основните права на гражданите на ЕС и спират всички стъпки, които водят до масово наблюдение на обществени места.

Опасения за дискриминация

Според текста системите за идентификация, базирани на изкуствен интелект, вече по-често погрешно идентифицират малцинствени етнически групи, ЛГБТИ лица, възрастни хора и жени, което е особено тревожно в областта на правоприлагането и съдебната система. За да се гарантира спазването на основните права при използването на тези технологии, алгоритмите следва да бъдат прозрачни, проследими и достатъчно документирани, призовават членовете на ЕП. Когато е възможно, публичните органи следва да използват ИИ със софтуер с отворен код, за да бъдат по-прозрачни.

Противоречиви технологии

За да се зачитат неприкосновеността на личния живот и човешкото достойнство, членовете на ЕП настояват за постоянна забрана на автоматизираното разпознаване на лица на обществени места, като отбелязват, че гражданите трябва да бъдат наблюдавани само при подозрение за престъпление. Парламентът призовава да се забрани използването на частни бази данни за лицево разпознаване (като системата ИИ на „КлиърВю“ (Clearview AI), която вече се използва) и прогнозиране на база на поведенчески данни от полицията.

Членовете на ЕП не искат повече да се използва масовото оценяване на гражданите от страна на публичните органи с помощта на ИИ, което те считат, че застрашава принципите на недискриминация и не е съобразно с основните права на ЕС.

В заключение, Парламентът изразява загриженост от използването на биометрични данни за дистанционно идентифициране на хора. Например, вратите за граничен контрол, които използват автоматизирано разпознаване, и проектът iBorderCtrl ("интелигентна система за детектор на лъжата" за външните граници на ЕС) трябва да бъдат преустановени, казват членовете на ЕП, като настояват Комисията да започне производства за установяване на нарушения срещу държавите членки, ако е необходимо.