Uskoro dolazi AI Act Europske unije: Evo što sve trebate znati

Umjetna inteligencija je posvuda. Na vijestima, poslu, našim telefonima. Od nje se ne može pobjeći. Ili se barem stvorio takav dojam. Ali, za jednu stvar mnogi ipak nisu čuli - nadolazeći Zakon o umjetnoj inteligenciji (AI Act) Europske unije.

To je pionirski zakonodavni akt koji osigurava sigurnost i usklađenost s temeljnim pravima, dok istovremeno potiče inovacije.

Ako u Europskoj uniji netko koristi umjetnu inteligenciju na bilo koji način u unutar organizacije - bilo kao pružatelj usluga ili developer sustava, korisnik, uvoznik, distributer ili proizvođač AI sustava - morat će se prilagoditi novoj regulativi. Pravila vrijede čak i ako organizacija nije registrirana u EU jer se odnosi na sve koje posluju na njenom tržištu.

Kazne za neusklađenost nisu male. Novčane kazne za kršenje propisa kreću se od 750.000 do 35 milijuna eura ili od jedan do sedam posto globalnog godišnjeg prometa - ovisno o tome koji je iznos viši i koliko je prekršaj ozbiljan. Ali, zašto je potreban ovaj zakon?

Kao i kod svake regulative, važno je razumjeti njezinu svrhu i što se njome želi postići. AI se razvija nevjerojatnom brzinom, a trenutna regulativa praktički ne postoji. Iako je još u ranoj fazi razvoja, umjetna inteligencija već je izazvala brojne kontroverze - od korištenja autorski zaštićenih materijala za treniranje velikih jezičnih modela, do "halucinacija" chatbotova koji daju netočne informacije. Jasno, očito je da AI treba regulaciju.

Zakon o umjetnoj inteligenciji nastoji uspostaviti pravni okvir koji će osigurati pouzdani razvoj AI sustava, s naglaskom na sigurnost, transparentnost i etička načela.

Regulativa klasificira AI sustave u četiri kategorije - neprihvatljiv rizik, visok rizik, ograničen rizik i minimalan rizik.

Sustavi s neprihvatljivim rizikom smatraju se prijetnjom ljudima i u potpunosti su zabranjeni. Za neusklađenost s ovom odredbom propisane su najviše kazne jer takvi sustavi krše temeljne vrijednosti EU-a. Primjeri uključuju društveno bodovanje, manipulaciju ponašanjem putem subliminalnih tehnika, iskorištavanje ranjivosti djece i sustave za daljinsku biometrijsku identifikaciju uživo.

Sustavi s visokim rizikom nisu zabranjeni, ali podliježu strogim uvjetima usklađenosti jer mogu utjecati na temeljna prava i sigurnost građana. U ovu kategoriju spadaju sustavi za procjenu kreditne sposobnosti, zdravstva, osiguranja, javnih usluga, zapošljavanja i obrazovanja, kao i sustavi granične kontrole te oni koji profiliraju pojedince. Developeri i korisnici ovih modela moraju ispuniti brojne obveze, uključujući nadzor od strane ljudi, upravljanje rizicima, vođenje evidencije i osiguranje transparentnosti.

Sustavi s ograničenim rizikom zahtijevaju transparentnost i korisnici moraju biti svjesni da komuniciraju s AI sustavom. U ovu kategoriju spadaju chatbotovi i generativni AI sustavi poput editora slika, videozapisa i zvuka.

Sustavi s minimalnim rizikom ne podliježu nikakvim zahtjevima jer ne spadaju u nijednu od prethodnih kategorija. Primjeri uključuju filtre za neželjenu poštu i AI tehnologiju u videoigrama.

Postoje određene iznimke za zabranjene sustave. Tijela za provođenje zakona imaju popis prihvatljivih biometrijskih identifikacijskih sustava (RBI), ali samo za strogo definirane situacije. Biometrijska identifikacija u stvarnom vremenu (Real-time RBI) može se koristiti isključivo pod strogim sigurnosnim uvjetima, no općenito, za tvrtke koje nisu povezane s provedbom zakona, ova tehnologija bit će zabranjena.

Ako vaša tvrtka koristi umjetnu inteligenciju na bilo koji način, čeka vas određeni posao prije nego što regulativa u potpunosti stupi na snagu.

Prvo, ažurirajte (ili izradite) interne politike i procedure vezane uz AI. Ako dođe do problema, te će politike biti pod povećalom, pa osigurajte da su usklađene s vrijednostima AI Act-a, poput transparentnosti, nepristranosti i pravednosti.

Zatim, napravite cjeloviti audit svih AI sustava u vašoj organizaciji i izradite inventar. Identificirajte sve modele koje koristite, procijenite njihov rizik i razvijte strategije za ublažavanje rizika kako biste mogli nastaviti poslovati na tržištu EU-a. Ključno je imati plan za usklađenost – uključujući reviziju pristranosti modela, procjene rizika i strategije prilagodbe novim propisima.

Educirajte zaposlenike i podignite svijest o regulativi. Oni koje koristi AI sustave bit će pogođeni novim pravilima, a određeni zaposlenici imat će ključnu ulogu u provedbi ljudskog nadzora nad AI sustavima. Ako će svi razumjeti rizike, upravljanje usklađenošću bit će mnogo jednostavnije.

Zakon će se gotovo sigurno mijenjati s vremenom, pogotovo s obzirom na nevjerojatnu brzinu razvoja AI tehnologije. Zato pomno pratite promjene i prilagođavajte svoje politike u skladu s njima.