fallback

Европарламентът скочи срещу изкуствения интелект и масовото наблюдение

Необходим е човешки надзор и силни правни правомощия, за да се предотврати дискриминацията

06.10.2021 | 11:31 Автор: Теодора Патронова

С цел борба с дискриминацията и гарантиране на правото на неприкосновеност на личния живот, ЕП настоява за строги гаранции, когато инструментите на изкуствения интелект се използват в правоприлагането.

В резолюция, приета с 377 гласа "за", 248 гласа "против" и 62 гласа "въздържал се", членовете на ЕП посочват риска от алгоритмична пристрастност в приложенията на изкуствен интелект (ИИ). Те подчертават, че е необходим човешки надзор и силни правни правомощия, за да се предотврати дискриминацията от страна на ИИ, особено в контекста на правоприлагането или граничния контрол.

Човешките оператори винаги трябва да взимат окончателните решения, а субектите, наблюдавани от основани на ИИ системи, трябва да имат достъп до средства за правна защита, казват членовете на ЕП.

Опасения за дискриминация

Според текста системите за идентификация, базирани на изкуствен интелект, вече по-често погрешно идентифицират малцинствени етнически групи, ЛГБТИ лица, възрастни хора и жени, което е особено тревожно в областта на правоприлагането и съдебната система.

За да се гарантира спазването на основните права при използването на тези технологии, алгоритмите следва да бъдат прозрачни, проследими и достатъчно документирани, призовават членовете на ЕП. Когато е възможно, публичните органи следва да използват ИИ със софтуер с отворен код, за да бъдат по-прозрачни.

Противоречиви технологии

За да се зачитат неприкосновеността на личния живот и човешкото достойнство, членовете на ЕП настояват за постоянна забрана на автоматизираното разпознаване на лица на обществени места, като отбелязват, че гражданите трябва да бъдат наблюдавани само при подозрение за престъпление. Парламентът призовава да се забрани използването на частни бази данни за лицево разпознаване (като системата ИИ на Clearview AI, която вече се използва) и прогнозиране на база на поведенчески данни от полицията.

Членовете на ЕП не искат повече да се използва масовото оценяване на гражданите от страна на публичните органи с помощта на ИИ, което те считат, че застрашава принципите на недискриминация и не е съобразно с основните права на ЕС.

Европарламентът изразява загриженост от използването на биометрични данни за дистанционно идентифициране на хора. Например, вратите за граничен контрол, които използват автоматизирано разпознаване, и проектът iBorderCtrl ("интелигентна система за детектор на лъжата" за външните граници на ЕС) трябва да бъдат преустановени, казват членовете на ЕП, като настояват Комисията да започне производства за установяване на нарушения срещу държавите членки, ако е необходимо.

Снимка: Pixabay

Харесайте страницата ни във Facebook ТУК

fallback
Още от Техно
fallback