VELIKI PROBLEMI

Napadi poboljšani umjetnom inteligencijom novi su najveći rizik za poduzeća

Tijekom prvog tromjesečja ove godine Gartner je anketirao 345 viših rukovoditelja rizika u poduzećima kako bi uhvatio i usporedio njihovih 20 najvećih rizika u nastajanju i pružio voditeljima uvid u njihove uzroke i moguće posljedice.

Napadi poboljšani umjetnom inteligencijom novi su najveći rizik za poduzeća
Depositphotos

Zabrinutost zbog zlonamjernih napada poboljšanih umjetnom inteligencijom popela se na vrh Gartnerove ljestvice rizika u nastajanju u prvom kvartalu 2024. "Izgledi zlonamjernih radnji omogućenih alatima potpomognutim umjetnom inteligencijom zabrinjavaju lidere rizika diljem svijeta", rekla je Gamika Takkar, direktorica istraživanja u Gartner Risk & Audit Practice. "Relativna jednostavnost korištenja i kvaliteta alata potpomognutih umjetnom inteligencijom, kao što je generiranje glasa i slike, povećavaju sposobnost izvođenja zlonamjernih napada sa širokim rasponom posljedica."

Tijekom prvog tromjesečja ove godine Gartner je anketirao 345 viših rukovoditelja rizika u poduzećima kako bi uhvatio i usporedio njihovih 20 najvećih rizika u nastajanju i pružio voditeljima uvid u njihove uzroke i moguće posljedice. Rizici povezani s umjetnom inteligencijom zauzeli su prva dva mjesta u anketi 1Q24, pri čemu su zlonamjerni napadi poboljšani umjetnom inteligencijom navedeni kao najveći rizik u nastajanju, a dezinformacije potpomognute umjetnom inteligencijom također izazivaju zabrinutost. Eskalirajuća politička polarizacija, koja je prvi put ušla u praćenje u 4. kvartalu 23., pala je s druge najcitiranije zabrinutosti na treće mjesto.

Jedan od ključnih pokretača napada i dezinformacija omogućenih AI-om je brzo širenje pristupa njegovim mogućnostima. Poboljšanje umjetne inteligencije može pružiti zlonamjerni kod i olakšati krađu identiteta i društveni inženjering, što omogućuje bolji upad, povećanu vjerodostojnost i štetnije napade. "Njegova niska cijena i brzi rast također izlažu korisnike tehnologiji koji nemaju dovoljno svijesti o tome kako prepoznati kada alati s omogućenom umjetnom inteligencijom pružaju valjane, a ne lažne ili krivo predstavljene informacije", rekao je Takkar.

Potencijalni učinci napada i dezinformacija poboljšanih umjetnom inteligencijom su dalekosežni i posljedični za ugled, produktivnost i sposobnost organizacija da odgovore. Povećana kršenja i zahtjevi za otkrivanjem mogu narušiti povjerenje u organizaciju i robnu marku među klijentima, potrošačima i partnerima. "Brzina i kvaliteta napada i dezinformacija poboljšanih umjetnom inteligencijom također ometaju sposobnost timova za informacijsku sigurnost da odgovore i prilagode se novom sigurnosnom okruženju, dodatno povećavajući njegove ranjivosti", rekao je Takkar.