Nova pravila za umjetnu inteligenciju u EU

Europska komisija danas predlaže nova pravila i mjere s ciljem da Europa postane svjetski predvodnik u pouzdanoj umjetnoj inteligenciji. Prvi pravni okvir za umjetnu inteligenciju u kombinaciji s novim koordiniranim planom s državama članicama bit će jamstvo sigurnosti i poštovanja temeljnih prava ljudi i poduzeća te će u cijeloj Uniji povećati korištenje umjetne inteligencije i ulaganja i inovacije u tom području. Taj će se pristup upotpuniti novim pravilima o strojevima, odnosno prilagodbom sigurnosnih pravila kako bi se povećalo povjerenje korisnika u novu, raznovrsnu generaciju proizvoda.

„Povjerenje u umjetnu inteligenciju je imperativ, a ne tek zgodna opcija. Ovo su važni propisi kojima Unija predvodi razvoj novih globalnih normi koje će biti jamstvo povjerenja u umjetnu inteligenciju. Postavljajući standarde možemo otvoriti put razvoju etične tehnologije u svijetu i pritom očuvati Unijinu konkurentnost. Naša su pravila spremna za budućnost i okrenuta inovacijama te će se primjenjivati samo kad je to doista nužno: kad budu ugrožena temeljna prava i sigurnost građana Unije“, ističe izvršna potpredsjednica za Europu spremnu za digitalno doba Margrethe Vestager

Nova Uredba o umjetnoj inteligenciji Europljanima će biti jamstvo povjerenja u ono što umjetna inteligencija nudi. Pravilima, koja su razmjerna i fleksibilna, obuhvatit će se specifični rizici koje donose sustavi umjetne inteligencije te postaviti najviši svjetski standardi. U koordiniranom planu u glavnim se crtama iznose promjene u politici i ulaganja potrebna u državama članicama da bi se učvrstio vodeći položaj Europe u razvoju antropocentrične, održive, sigurne, uključive i pouzdane umjetne inteligencije.

“Umjetna inteligencija je sredstvo, a ne cilj. Postoji već desetljećima, ali zahvaljujući računalnoj snazi dosegla je nove mogućnosti. To znači golem potencijal u najrazličitijim područjima kao što su zdravlje, promet, energetika, poljoprivreda, turizam ili kibersigurnost. Donosi, međutim, i rizike. Današnjim se prijedlozima nastoji učvrstiti položaj Europe kao svjetskog centra izvrsnosti u području umjetne inteligencije od laboratorija do tržišta, osigurati da umjetna inteligencija u Europi bude u skladu s našim vrijednostima i pravilima te iskoristiti njezin potencijal za industrijsku primjenu“, objašnjava povjerenik za unutarnje tržište Thierry Breton.

Nova će se pravila izravno primjenjivati na isti način u svim državama članicama na temelju definicije umjetne inteligencije koja je prilagođena budućim okolnostima. U njihovoj je izradi korišten pristup koji se temelji na riziku.

Neprihvatljiv rizik su oni sustavi koji se smatraju jasnom prijetnjom sigurnosti, sredstvima za život i pravima ljudi bit će zabranjeni. To obuhvaća sustave ili aplikacije umjetne inteligencije koji manipuliraju korisnikovim ponašanjem kako bi zaobišli njegovu volju (npr. igračke s glasovnom pomoći koje potiču opasno ponašanje maloljetnika) i sustave koji državama omogućuju „društveno vrednovanje“.

Visokorizični sustavi umjetne inteligencije obuhvaćaju tehnologiju koja se upotrebljava u kritičnoj infrastrukturi (npr. prometnoj) koja može ugroziti život i zdravlje građana  strukovnom obrazovanju ili osposobljavanju koje osobi može odrediti pristup obrazovanju i usmjeriti profesionalni život (npr. bodovanje ispita), sigurnosnim dijelovima proizvoda (npr. primjena umjetne inteligencije u robotski potpomognutim kirurškim zahvatima)

zapošljavanju, kadrovskom upravljanju i pristupu samozapošljavanju (npr. softver za razvrstavanje životopisa u postupcima zapošljavanja), osnovnim privatnim i javnim uslugama (npr. ocjenjivanje kreditne sposobnosti koje građanima može uskratiti mogućnost da podignu kredit), provođenju zakona koje se može kositi s temeljnim pravima građana (npr. evaluacija pouzdanosti dokaza), upravljanju migracijama, azilom i granicama (npr. provjera vjerodostojnosti putnih isprava), pravosuđu i demokratskim procesima (npr. primjena zakona na konkretan skup činjenica).

Za visokorizične sustave vrijedit će stroge obveze koje moraju ispuniti prije stavljanja na tržište i to odgovarajući sustavi procjene i smanjenja rizika, visoka kvaliteta ulaznih podataka kako bi se smanjili rizici i diskriminatorni rezultati, evidentiranje aktivnosti radi sljedivosti rezultata, podrobna dokumentacija sa svim informacijama o sustavu i njegovoj namjeni koje su potrebne tijelima za ocjenjivanje sukladnosti, jasne i primjerene informacije za korisnike

odgovarajuće mjere ljudskog nadzora radi minimiziranja rizika, visoka razina stabilnosti, sigurnosti i točnosti.

Konkretno, strogim uvjetima podliježu svi sustavi daljinske biometrijske identifikacije jer ih se smatra visokorizičnima. Njihova je upotreba u stvarnom vremenu u javnim prostorima u načelu zabranjena. Iznimke su strogo definirane, regulirane i ograničene na najnužnije situacije, npr. kad se koriste u potrazi za nestalim djetetom, za sprečavanje konkretne i neposredne terorističke prijetnje ili za otkrivanje, lociranje, identificiranje ili istragu protiv počinitelja teškog kaznenog djela ili osumnjičenika za takvo djelo. Takvu upotrebu mora odobriti sudsko ili drugo neovisno tijelo i mora biti ograničena vremenski, zemljopisno i na određene baze podataka.

Ograničen rizik predstavljaju sustavi umjetne inteligencije s posebnim obvezama u pogledu transparentnosti: Korisnici sustava kao što su chatbotovi trebali bi znati da je riječ o interakciji sa strojem kako bi mogli utemeljeno odlučiti žele li se upustiti u nju ili odustati.

Minimalan rizik prema prijedlogu propisa omogućuje neograničeno korištenje umjetne inteligencije u videoigrama ili filtrima za neželjenu e-poštu. U tu kategoriju spada većina sustava umjetne inteligencije. Nacrt uredbe ih ne regulira jer su ti sustavi slabo ili nimalo rizični za prava i sigurnost građana.

Komisija predlaže da nova pravila budu pod nadzorom nacionalnih tijela nadležnih za nadzor tržišta. Provedbu pravila i izradu standarda za umjetnu inteligenciju olakšat će osnivanje Europskog odbora za umjetnu inteligenciju. Usto, za umjetnu inteligenciju koja nije visokorizična predlažu se dobrovoljni kodeksi ponašanja i regulatorni okviri za testiranje i poticanje odgovornih inovacija.

Uz to, promovira se uuropski pristup izvrsnosti u umjetnoj inteligenciji koji predviđa koordinirano djelovanje učvrstit će vodeći položaj Europe u području antropocentrične, održive, sigurne, uključive i pouzdane umjetne inteligencije. Kako bi Europa ostala globalno konkurentna, Komisija se obvezala poticati inovacije u razvoju i korištenju tehnologije umjetne inteligencije u svim sektorima i svim državama članicama.

Koordinirani plan o umjetnoj inteligenciji, kojim su 2018. definirani instrumenti financiranja i mjere za razvoj i korištenje umjetne inteligencije, omogućio je stvaranje dinamičnog okruženja nacionalnih strategija i financijskih sredstava EU-a za javno-privatna partnerstva i istraživačko-inovacijske mreže. U cjelovito ažuriranom Koordiniranom planu predlažu se zajedničke mjere s ciljem usklađivanja svih aktivnosti s europskom strategijom za umjetnu inteligenciju i europskim zelenim planom, vodeći pritom računa o novim izazovima koje je donijela pandemija koronavirusa. Iznosi se vizija za ubrzanje ulaganja u umjetnu inteligenciju jer to može pridonijeti oporavku. Želi se i potaknuti provedba nacionalnih strategija umjetne inteligencije, ukloniti rascjepkanost i poduzeti mjere za globalne izazove.

Za ažurirani Koordinirani plan koristit će se sredstva dodijeljena u okviru programa Digitalna Europa i Obzor Europa, kao i Mehanizma za oporavak i otpornost, s predviđenih 20 % rashoda za troškove digitalizacije, te programa kohezijske politike.

Cilj toga je stvaranje poticajnih uvjeta za razvoj i primjenu umjetne inteligencije razmjenom uvida u politiku, razmjenom podataka i ulaganjima u kritične računalne kapacitete, poticanje izvrsnosti u umjetnoj inteligenciji od laboratorija do tržišta uspostavljanjem javno-privatnog partnerstva, organizacijom i primjenom istraživanja, razvojnim i inovacijskim kapacitetima te stavljanjem centara za testiranje i eksperimentiranje i centara za digitalne inovacije na raspolaganje MSP-ovima i javnim upravama.

Uz to, stavljanje umjetne inteligencije u službu građana i društva predvođenjem razvoja i primjene pouzdane umjetne inteligencije, razvojem talenata i vještina poticanjem stažiranja, umrežavanja doktoranada i postdoktorskih stipendija u digitalnim područjima, uvrštavanjem povjerenja u politike umjetne inteligencije te promicanjem europske vizije održive i pouzdane umjetne inteligencije u svijetu.

Želi se postići strateško vodstvo u sektorima i tehnologijama s velikim utjecajem, primjerice u području okoliša fokusiranjem na doprinos umjetne inteligencije održivoj proizvodnji, u zdravstvu širenjem međunarodne razmjene informacija te u javnom sektoru, prometu, unutarnjim poslovima, poljoprivredi i robotici.

Jedna od stvari na koje će se posebno obratiti pažnja su novi strojevi i njihova upotreba. Strojevi obuhvaćaju raznovrsne proizvode za osobnu i profesionalnu upotrebu: robote, kosilice, 3D pisače, građevinske strojeve, industrijske proizvodne linije itd. Direktiva o strojevima, koju će zamijeniti nova Uredba o strojevima, definirala je zdravstvene i sigurnosne uvjete za strojeve. Novom će se uredbom zajamčiti sigurnost nove generacije strojeva za korisnike i potrošače te potaknuti inovacije. Sigurnosni rizici sustava umjetne inteligencije obuhvaćeni su Uredbom o umjetnoj inteligenciji, a novom Uredbom o strojevima uredit će se sigurna integracija tih sustava u strojeve općenito. Poduzeća će morati provesti samo jedno ocjenjivanje sukladnosti.

Usto, nova je Uredba o strojevima odgovor na potrebe tržišta: unijet će veću pravnu jasnoću u postojeće odredbe te smanjiti administrativni teret i troškove poduzećima jer će dokumentacija moći biti u digitalnim formatima, a MSP-ovi će plaćati prilagođene naknade za ocjenjivanje sukladnosti. Ujedno će osigurati usklađenost s pravnim okvirom EU-a za proizvode.