top of page

AI i neproliferacija: Ograničenja i izazovi generativnih AI modela

Writer's picture: Urednički timUrednički tim

Diskusije o uticaju veštačke inteligencije na nacionalnu i globalnu bezbednost sve su češće teme stručnih konferencija (foto: dvidshub.net)
Diskusije o uticaju veštačke inteligencije na nacionalnu i globalnu bezbednost sve su češće teme stručnih konferencija (foto: dvidshub.net)

Razvoj generativne veštačke inteligencije (AI) otvorio je nova pitanja u vezi sa njenim uticajem na neproliferaciju oružja za masovno uništenje (WMD). Iako AI obećava značajna unapređenja u analizi i otkrivanju pretnji, stručnjaci skreću pažnju na ograničenja i izazove poput ugrađenih restrikcija za kreiranje štetnih informacija, problem halucinacija, dostupnosti visokokvalitetnih podataka, infrastrukture i potrebnih energetskih resursa.


U trenutnoj fazi razvoja generativne AI, procene o njenoj korisnosti za zlonamerne aktere često su preuveličane. Iako modeli omogućavaju lak pristup informacijama o raznim temama, njihova upotrebljivost za razvoj i primenu WMD ostaje ograničena iz nekoliko razloga.


Blokiranje generisanja štetnih informacija i halucinacije

Prvo, većina modela obučena je da odbije pružanje štetnih informacija, uključujući uputstva za kreiranje WMD. Ipak, neki stručnjaci su demonstrirali mogućnost zaobilaženja tih restrikcija pomoću tehnika poput "jailbreak-a", čime modeli pružaju informacije koje su obučeni da blokiraju.


Drugo, dobro poznat problem "halucinacija" u modelima, gde oni generišu netačne informacije, smanjuje poverenje zlonamernih korisnika u njihove rezultate. Konačno, čak i uz pristup korisnim informacijama, zlonamerni akteri se suočavaju sa barijerama implicitnog znanja, ključnim "know-how" veštinama koje se ne mogu naučiti samo iz teksta.


Kako generativni AI modeli napreduju, barijere koje ograničavaju njihovu upotrebu za maliciozne svrhe mogle bi se smanjiti. Na primer, učestalost halucinacija opada sa svakom novom iteracijom modela, dok se njihova sposobnost rezonovanja poboljšava. Ova evolucija nameće potrebu za stalnim praćenjem i uspostavljanjem jasnih standarda za procenu potencijala AI u kontekstu WMD. Političari i stručnjaci pozivaju na uspostavljanje referentnih vrednosti za WMD kapacitete i redovne evaluacije novih modela kako bi se osiguralo njihovo odgovorno korišćenje.


Pored tehničkih izazova, generativna AI suočava se sa pitanjima usklađenosti sa ljudskim vrednostima. Pojam "usklađivanje" (alignment) odnosi se na obezbeđivanje da izlaz modela bude konzistentan sa ljudskim vrednostima, namerama i etičkim standardima. Neusklađenost može dovesti do širenja dezinformacija, podsticanja štetnih stereotipa ili donošenja odluka koje negativno utiču na zajednice.


Stručnjaci upozoravaju da bi razvoj veštačke opšte inteligencije (AGI), a potom i superinteligencije, mogao dodatno pogoršati ove izazove. Ako AGI sistemi nisu pravilno usklađeni sa ljudskim vrednostima, mogli bi ostvariti ciljeve koji su u suprotnosti sa ljudskim interesima, izazivajući nenamerne posledice.


Razvoj AI nerazdvojan je od izgradnje i jačanja kapaciteta data centara koji zahtevaju odgovarajuću energentsku infrastrukturu (ilustracija: WIX AI)
Razvoj AI nerazdvojan je od izgradnje i jačanja kapaciteta data centara koji zahtevaju odgovarajuću energentsku infrastrukturu (ilustracija: WIX AI)

Ograničenost kvalitetnih podataka, energetskih resursa i infrastrukture

Pored tehnoloških i etičkih izazova, ograničenja u rastu generativne AI postaju sve vidljivija. Jedno od ključnih ograničenja je nedostatak visokokvalitetnih podataka za obuku modela. Iako su prvi modeli trenirani na podacima prikupljenim s interneta, mnogi od tih podataka su lošeg kvaliteta ili zaštićeni autorskim pravima.


Prognoze pokazuju da bi do 2028. godine mogli iscrpeti dostupne ljudske tekstove na internetu. Tehnološke kompanije istražuju alternativne pristupe, uključujući generisanje sintetičkih podataka za obuku, ali ovaj pristup nosi rizik pada kvaliteta modela zbog sve manje raznovrsnosti podataka.


Pored problema s podacima, energetski resursi predstavljaju još jednu prepreku. Trening i rad generativnih AI modela zahtevaju ogromne količine energije i infrastrukture, uključujući podatkovne centre i napredne čipove, koji su često u oskudici.


Na primer, jedna ChatGPT pretraga troši deset puta više energije nego obična Google pretraga, što dodatno povećava opterećenje na energetske resurse. S obzirom na globalne klimatske ciljeve, neke kompanije istražuju upotrebu nuklearne energije za pokretanje ovih centara, ali implementacija takvih rešenja ostaje izazovna.


Pitanje ekonomske održivosti

Na kraju, pitanje ekonomske održivosti generativne AI takođe postaje ključno. Iako kompanije ulažu milijarde dolara u razvoj AI infrastrukture, trenutni finansijski povraćaj ostaje ograničen. Bez revolucionarnih aplikacija koje bi opravdale ova ulaganja, postoji rizik da će interesovanje investitora oslabiti, što bi moglo usporiti dalji razvoj AI.


Generativna AI je tehnologija s ogromnim potencijalom, ali i značajnim ograničenjima. Razumevanje ovih izazova i uspostavljanje odgovarajućih standarda za njihovo rešavanje ključni su za osiguranje da AI doprinese globalnoj bezbednosti, a ne njenom ugrožavanju.


  • facebook
  • twitter

©2023 Balkanska bezbednosna mreža. Odbrana i bezbednost iz ugla novinara i urednika sa prostora Jugoistočne Evrope.

bottom of page