OpenAI i Anthropic potpisuju sporazume o sigurnosti AI-ja

Tvrtke za umjetnu inteligenciju OpenAI i Anthropic potpisale su ugovore s vladom SAD-a kako bi vlastima omogućile istraživanje, testiranje i procjenu novih modela umjetne inteligencije prije javnog objavljivanja. Memorandum o razumijevanju (MoU) svake tvrtke uspostavlja okvir za američki AI Safety Institute kako bi dobio rani pristup glavnim novim modelima i nastavio ih proučavati nakon objavljivanja.

Memorandumi o razumijevanju također pokrivaju zajedničko istraživanje za procjenu sposobnosti i potencijalnih rizika modela i metoda umjetne inteligencije za ublažavanje svih opasnosti. Tvrtke s umjetnom inteligencijom suočavaju se s pojačanim regulatornim nadzorom nad etičkom upotrebom velikih jezičnih modela i načinom na koji se obučavaju.

"Ovi su sporazumi samo početak, ali oni su važna prekretnica dok radimo na odgovornom upravljanju budućnošću umjetne inteligencije", rekla je Elizabeth Kelly, direktorica američkog Instituta za sigurnost umjetne inteligencije. Institut planira dati povratne informacije tvrtkama Anthropic i OpenAI o mogućim sigurnosnim poboljšanjima njihovih modela u suradnji sa svojim partnerima iz UK AI Safety Institute.