EÚ na ceste regulovat AI

EÚ v piatok predstavila svoj vôbec prvý legislatívny balík, ktorý sa pokúša regulovať výrobu a používanie umelej inteligencie. Cieľom zákona o AI je zaujať k technológii „prístup založený na riziku“, pričom uprednostňuje obmedzenia na tie aspekty, o ktorých sa predpokladá, že predstavujú najväčšie nebezpečenstvo pre spoločnosť.

Legislatíva iniciuje požiadavky na transparentnosť pre všetky modely umelej inteligencie na všeobecné účely s prísnejšími požiadavkami na väčšie a výkonnejšie modely, ktoré by mohli predstavovať „systémové riziká pre Úniu“, povedal v piatok novinárom poslanec Dragos Tudorache, jeden z hlavných vyjednávačov.

„Vysokorizikové“ použitia AI sú klasifikované ako tie, ktoré predstavujú významné potenciálne poškodenie zdravia, bezpečnosti, základných práv, životného prostredia, demokracie a právneho štátu podľa novej legislatívy, ktorá sa konkrétne zmieňuje o poisťovníctve a bankovom sektore, ako aj o voľbách. – a systémy súvisiace s hlasovaním ako oblasti vyžadujúce prísne bezpečnostné testovanie pred verejným nasadením.

Občania sa údajne budú musieť uchýliť k podávaniu sťažností požadujúcich vysvetlenie o tom, kde rozhodnutie systému AI ovplyvnilo ich práva a životy.

Balík vyžaduje generátory hlbokých falošných správ, veľké jazykové modely a ďalšie nástroje na vytváranie, aby označili svoju prácu ako vygenerovanú AI a má za cieľ chrániť držiteľov autorských práv pred tým, aby im umelá inteligencia zneškodnila ich prácu.

Biometrické systémy, ktoré používajú na identifikáciu ľudí „citlivé charakteristiky“, ako je rasa a sexuálna orientácia, sú podľa novej legislatívy zakázané, rovnako ako bezohľadné zoškrabovanie tvárí z online databáz alebo iných úložísk obrázkov. Zakázané je aj hodnotenie sociálneho kreditu, „systémy, ktoré manipulujú ľudské správanie s cieľom obísť ich slobodnú vôľu“, rozpoznávanie emócií zamestnávateľmi alebo vzdelávacími inštitúciami.

Používanie technológie rozpoznávania tváre orgánmi činnými v trestnom konaní by sa obmedzilo na „určité bezpečnostné výnimky a výnimky z národnej bezpečnosti“, ako napríklad na zabránenie „špecifickej a súčasnej teroristickej hrozbe“. Pre „post-diaľkové“ použitie biometrického sledovania AI musí byť cieľ odsúdený alebo podozrivý zo spáchania závažného trestného činu – terorizmu, obchodovania s ľuďmi, sexuálneho vykorisťovania, vraždy, únosu, znásilnenia, ozbrojenej lúpeže, účasti v zločineckej organizácii, alebo „ekologická kriminalita“.

Zákazy majú nadobudnúť účinnosť o šesť mesiacov, zatiaľ čo požiadavky na transparentnosť sa začnú uplatňovať o rok. Celý legislatívny balík nadobudne účinnosť o dva roky.

Konečný návrh legislatívy, ktorý vznikol počas troch dní rokovaní, ktoré sa začali 22-hodinovým maratónskym stretnutím v stredu, ešte nebol zverejnený a musí byť schválený hlasovaním v parlamente aj v Európskej rade.

Tento blok dúfa, že bude globálnym lídrom v regulácii AI, čo opakuje svoje kontroverzné snahy o reguláciu toku informácií na internete zákonom o digitálnych službách začiatkom tohto roka. Rovnako ako táto legislatíva prichádza s vysokými finančnými sankciami – porušovatelia môžu dostať pokutu až do výšky 35 miliónov EUR (37,7 milióna USD) alebo 7 % globálnych príjmov.