Europski zakon o umjetnoj inteligenciji službeno je stupio na snagu

Na snagu je stupio European Artificial Intelligence Act (AI Act), prva sveobuhvatna uredba o umjetnoj inteligenciji u svijetu. Zakon o umjetnoj inteligenciji osmišljen je kako bi se osiguralo da je umjetna inteligencija razvijena i korištena u EU-u pouzdana, uz zaštitne mjere za zaštitu temeljnih prava ljudi.

Uredba ima za cilj uspostaviti usklađeno unutarnje tržište za AI u EU-u, potičući prihvaćanje ove tehnologije i stvarajući poticajno okruženje za inovacije i ulaganja. Zakon o umjetnoj inteligenciji uvodi definiciju umjetne inteligencije usmjerenu prema budućnosti, koja se temelji na pristupu koji se temelji na sigurnosti proizvoda i riziku u EU-u.

Sustavi s minimalnim rizikom uključuju većinu sustava umjetne inteligencije, kao što su sustavi preporuka s omogućenom umjetnom inteligencijom i filteri neželjene pošte, koji spadaju u ovu kategoriju. Ovi sustavi nemaju nikakve obveze prema Zakonu o umjetnoj inteligenciji zbog minimalnog rizika za prava i sigurnost građana. Tvrtke u toj kategoriji mogu dobrovoljno usvojiti dodatne kodekse ponašanja.

Specifični sustavi rizika transparentnosti uključuju one poput chatbota i moraju jasno otkriti korisnicima da su u interakciji sa strojem. Određeni sadržaj generiran umjetnom inteligencijom, uključujući duboke krivotvorine, mora biti označen kao takav, a korisnici moraju biti obaviješteni kada se koriste biometrijska kategorizacija ili sustavi za prepoznavanje emocija. Osim toga, pružatelji će morati dizajnirati sustave na način da se sintetički audio, video, tekstualni i slikovni sadržaj označava u strojno čitljivom formatu i da se može otkriti kao umjetno generiran ili manipuliran.

Visoki rizik uključuje identificirane AI sustave koji će morati ispunjavati stroge zahtjeve, uključujući sustave za smanjenje rizika, skupove podataka visoke kvalitete, bilježenje aktivnosti, detaljnu dokumentaciju, jasne korisničke informacije, ljudski nadzor i visoku razinu robusnosti, točnosti , i kibernetička sigurnost. Regulatorna zaštićena okruženja olakšat će odgovorne inovacije i razvoj usklađenih sustava umjetne inteligencije. Takvi visokorizični sustavi umjetne inteligencije uključuju primjerice sustave umjetne inteligencije koji se koriste za zapošljavanje ili procjenu ima li netko pravo na kredit ili pokretanje autonomnih robota.

Neprihvatljivi sustavi rizika smatraju se jasnom prijetnjom temeljnim pravima ljudi i bit će zabranjeni. To uključuje sustave umjetne inteligencije ili aplikacije koje manipuliraju ljudskim ponašanjem kako bi zaobišle ​​slobodnu volju korisnika, kao što su igračke koje koriste glasovnu pomoć za poticanje opasnog ponašanja maloljetnika, sustave koji dopuštaju "društveno bodovanje" od strane vlada ili tvrtki i određene aplikacije prediktivnog policijskog rada. Osim toga, neka korištenja biometrijskih sustava bit će zabranjena.

Kako bi nadopunio ovaj sustav, Zakon o umjetnoj inteligenciji također uvodi pravila za takozvane modele umjetne inteligencije opće namjene, visoko sposobne modele umjetne inteligencije koji su dizajnirani za obavljanje širokog spektra zadataka poput generiranja teksta nalik ljudskom. AI modeli opće namjene sve se više koriste kao komponente AI aplikacija. Zakon o umjetnoj inteligenciji osigurat će transparentnost duž lanca vrijednosti i riješiti moguće sistemske rizike najsposobnijih modela.

Države članice imaju godinu dana da imenuju nacionalna nadležna tijela koja će nadzirati primjenu pravila za sustave umjetne inteligencije i provoditi aktivnosti nadzora tržišta. Ured Europske komisije za umjetnu inteligenciju bit će ključno tijelo za provedbu Zakona o umjetnoj inteligenciji na razini EU, kao i provoditelj pravila za modele umjetne inteligencije opće namjene.

Provedbu pravila podupirat će tri savjetodavna tijela. Europski odbor za umjetnu inteligenciju osigurat će jedinstvenu primjenu Zakona o umjetnoj inteligenciji u svim državama članicama EU-a i djelovat će kao glavno tijelo za suradnju između Komisije i država članica. Znanstveni panel neovisnih stručnjaka nudit će tehničke savjete i doprinose provedbi. Konkretno, ova ploča može Uredu za umjetnu inteligenciju izdati upozorenja o rizicima povezanim s modelima umjetne inteligencije opće namjene. Ured za umjetnu inteligenciju također može dobiti smjernice od savjetodavnog foruma, sastavljenog od raznolikog skupa dionika.

Tvrtke koje se ne pridržavaju pravila bit će novčano kažnjene. Kazne bi mogle iznositi do 7 posto globalnog godišnjeg prometa za kršenje zabranjenih AI aplikacija, do 3 posto za kršenje drugih obveza i do 1,5 posto za davanje netočnih informacija.

Većina pravila Zakona o umjetnoj inteligenciji počet će se primjenjivati ​​2. kolovoza 2026. Međutim, zabrane AI sustava za koje se smatra da predstavljaju neprihvatljiv rizik primjenjivat će se već nakon šest mjeseci, dok će se primjenjivati ​​pravila za takozvane modele AI-a opće namjene. nakon 12 mjeseci. Kako bi se premostilo prijelazno razdoblje prije potpune provedbe, EK je pokrenula AI Pact. Ova inicijativa poziva programere umjetne inteligencije da dobrovoljno usvoje ključne obveze Zakona o umjetnoj inteligenciji prije zakonskih rokova.