За да се гарантира ориентирано към човека и етично развитие на изкуствения интелект (ИИ) в Европа, членове на ЕП одобриха нови правила за прозрачност и управление на риска за системите с ИИ. В четвъртък (11 май) комисията по вътрешния пазар и комисията по граждански свободи приеха проект на мандат за преговори относно първите в историята правила за изкуствения интелект с 84 гласа „за“, 7 „против“ и 12 „въздържал се“. В своите изменения към предложението на Комисията евродепутатите се стремят да гарантират, че системите с ИИ се контролират от хора, са безопасни, прозрачни, проследими, недискриминационни и екологични. Те също така искат да има единна дефиниция за ИИ, проектирана да бъде технологично неутрална, така че да може да се прилага към системите за ИИ днес и утре.
Основан на риска подход към ИИ – Забранени практики на ИИ
Правилата следват основан на риска подход и установяват задължения за доставчици и потребители в зависимост от нивото на риск, което ИИ може да генерира. Системи с изкуствен интелект с неприемливо ниво на риск за безопасността на хората ще бъдат строго забранени, включително системи, които прилагат подсъзнателни или целенасочени манипулативни техники, експлоатират уязвимостта на хората или се използват за социално оценяване (класифициране на хората въз основа на тяхното социално поведение, социално-икономически статус, лични характеристики).
Евродепутатите измениха съществено списъка, за да включва забрани за натрапчиви и дискриминационни употреби на ИИ системи като:
• Системи за дистанционна биометрична идентификация „в реално време“ в обществено достъпни пространства;
• Системи за дистанционна биометрична идентификация „по поща“, с единственото изключение на правоприлагащите органи за наказателно преследване на тежки престъпления и само след съдебно разрешение;
• Системи за биометрична категоризация, използващи чувствителни характеристики (напр. пол, раса, етническа принадлежност, гражданство, религия, политическа ориентация);
• Предсказуеми полицейски системи (въз основа на профилиране, местоположение или минало престъпно поведение);
• Системи за разпознаване на емоции в правоприлагането, управлението на границите, работното място и образователните институции;
• Безразборно събиране на биометрични данни от социални медии или видеозаписи за създаване на бази данни за разпознаване на лица (нарушаване на човешките права и правото на неприкосновеност на личния живот).
Високорисков ИИ
Евродепутатите разшириха класификацията на зоните с висок риск, за да включват вреда за здравето, безопасност, основни права или околната среда на хората. Те също така добавиха ИИ системи за влияние върху избирателите в политически кампании и в препоръчителни системи, използвани от платформи за социални медии (с повече от 45 милиона потребители съгласно Закона за цифровите услуги) към списъка с висок риск.
ИИ с общо предназначение – мерки за прозрачност
Членовете на ЕП включиха задължения за доставчиците на базови модели (ново и бързо еволюиращо развитие в областта на ИИ) които ще трябва да гарантират стабилна защита на основните права, здравето и безопасността и околната среда, демокрацията и върховенството на закона. Те ще трябва да оценят и намалят рисковете, да спазват проектните, информационните и екологичните изисквания и да се регистрират в базата данни на ЕС.
Генеративните базови модели, като GPT, ще трябва да отговарят на допълнителни изисквания за прозрачност, като разкриване, че съдържанието е генерирано от AI, проектиране на модела, за да се предотврати генерирането на незаконно съдържание и публикуване на резюмета на защитени с авторски права данни, използвани за обучение.
Подпомагане на иновациите и защита на правата на гражданите
За да стимулират иновациите в областта на ИИ, членовете на ЕП добавиха изключения към тези правила за изследователски дейности и компоненти на ИИ, предоставени с лицензи с отворен код. Новият закон насърчава „регулаторните пясъчни кутии“ или контролирани среди, създадени от публичните органи за тестване на ИИ преди неговото внедряване.
Евродепутатите искат да засилят правото на гражданите да подават жалби, свързани със системи с изкуствен интелект и да получават обяснения за решения, базирани на високорискови системи с изкуствен интелект, които значително засягат техните права. Евродепутатите реформираха и ролята на Службата на ЕС за изкуствен интелект, която ще бъде натоварена със задачата да наблюдава как се прилага правилникът за изкуствен интелект.
Съдокладчикът Драгош Тудораче (Renew, Румъния) каза: „Като се има предвид дълбокото трансформиращо въздействие, което ИИ ще има върху нашите общества и икономики, Законът за ИИ е вероятно най-важният законодателен акт в този мандат. Това е първият законодателен акт от този вид в световен мащаб, което означава, че ЕС може да поведе пътя в превръщането на изкуствения интелект в центриран около човека, надежден и безопасен. Работихме, за да подкрепим иновациите в областта на ИИ в Европа и да предоставим на стартиращи фирми, МСП и индустрията пространство за растеж и иновации, като същевременно защитаваме основните права, укрепваме демократичния надзор и осигуряваме зряла система за управление и правоприлагане на ИИ.“
Следващи стъпки
Преди да започнат преговорите със Съвета относно окончателната форма на закона, този проектомандат за преговори трябва да бъде одобрен от целия парламент, като гласуването се очаква по време на сесията 12-15 юни.