top of page

AI i neproliferacija: Regulatorni pristup SAD

Writer's picture: Urednički timUrednički tim

Takmičenje u inovacionoj primeni AI (foto: dvidshub.net)
Takmičenje u inovacionoj primeni AI (foto: dvidshub.net)

U poslednjih nekoliko godina, Sjedinjene Američke Države su započele više inicijativa da regulišu primenu veštačke inteligencije (AI) u kontekstu globalne bezbednosti i prevencije proliferacije oružja za masovno uništenje (WMD). Inicijative koje su sprovedene pod administracijom predsednika Bajdena postavile su temelje za bezbednu i odgovornu upotrebu AI tehnologija, sa posebnim naglaskom na hemijske, biološke, radiološke i nuklearne (CBRN) pretnje.


Izvršna naredba 14110: Dokument za AI i CBRN pretnje

U oktobru 2023. godine, predsednik Bajden je izdao Izvršnu naredbu 14110, dokument koji jasno definiše politiku razvoja i primene AI u SAD. Ova naredba ne samo da promoviše inovacije, već uvodi niz konkretnih mera kako bi se smanjio rizik od zloupotrebe AI za razvoj CBRN pretnji.


Jedna od ključnih odredbi nalaže Sekretarijatu za unutrašnju bezbednost (Department of Homeland Security) da proceni potencijal AI za omogućavanje razvoja ili proizvodnje CBRN pretnji, ali i da analizira kako AI može doprineti njihovom suzbijanju. Ova procena uključuje preporuke za regulisanje ili nadzor nad AI modelima koji mogu predstavljati rizik​.


Sekretarijatu za odbranu (Department of Defense) poveren je još specifičniji zadatak. Naredba ga obavezuje da angažuje Nacionalne akademije za nauku (National Academies of Sciences, Engineering, and Medicine), koje će proučiti na koji način generativni AI modeli, posebno oni obučeni na biološkim podacima, mogu povećati rizike u bio-bezbednosti. Na osnovu ove analize, Nacionalne akademije će dati preporuke o tome kako ublažiti takve rizike i osigurati bezbednost ovih sistema​.


Standardizacija i red team testiranje

Kako bi se osiguralo da AI sistemi budu sigurni pre implementacije, naredba nalaže Nacionalnom institutu za standarde i tehnologiju (National Institute of Standards and Technology - NIST) da razvije smernice, standarde i najbolje prakse za bezbednost i procenu rizika AI sistema.


Ovi standardi uključuju rigorozna red team testiranja, koja simuliraju potencijalne zloupotrebe kako bi se identifikovale slabosti pre nego što modeli budu primenjeni. Posebna pažnja posvećena je proceni rizika u oblastima kao što su sajber-bezbednost i bio-bezbednost, kako bi se osigurala pouzdanost ovih tehnologija​.


Pored toga, kompanije koje razvijaju AI modele sa dvostrukom namenom moraju dostaviti rezultate svojih red team testiranja, uključujući mere preduzete za postizanje sigurnosnih ciljeva na osnovu tih testova. Ovo postavlja visok prag odgovornosti za kompanije i garantuje transparentnost u razvoju ovih tehnologija​.


Uloga NIST-ovog Instituta za sigurnost veštačke inteligencije

U okviru širih napora, NIST je 2024. godine osnovao Institut za sigurnost veštačke inteligencije (Artificial Intelligence Safety Institute), koji okuplja više od 200 organizacija radi razvoja empirijski utemeljenih smernica za procenu AI sistema. Institut je razvio alat za testiranje AI modela, koji služi kao zajednička platforma za benchmarking i evaluaciju rizika.


Ova platforma omogućava identifikaciju potencijalnih pretnji pre implementacije AI tehnologija, što je ključno za sprečavanje zloupotrebe u kontekstu WMD​.


Međunarodna dimenzija regulacije

Izvršna naredba ne ograničava se samo na unutrašnju regulaciju. U oktobru 2024. godine, Bela kuća je objavila prvi Nacionalni sigurnosni memorandum o AI (National Security Memorandum on Artificial Intelligence), koji promoviše saradnju sa međunarodnim partnerima na razvoju globalnih standarda za AI.


Memorandum ističe potrebu za zajedničkim pristupom kritičnoj infrastrukturi i tehnologijama koje imaju potencijalne implikacije na nacionalnu i međunarodnu bezbednost. Ovaj korak dodatno učvršćuje ulogu SAD kao lidera u postavljanju standarda za bezbednu i odgovornu upotrebu AI​.


Inicijative SAD predstavljaju robustan odgovor na rastuće izazove koje AI postavlja u domenu neproliferacije oružja za masovno uništenje. Kroz precizno definisane zadatke institucija, razvoj standarda i međunarodnu saradnju, ovi koraci pružaju osnovu za integraciju AI u globalne napore za očuvanje bezbednosti.


Kako AI nastavlja da se razvija, usklađivanje tehnologije sa bezbednosnim ciljevima biće ključni zadatak u očuvanju globalne stabilnosti.

  • facebook
  • twitter

©2023 Balkanska bezbednosna mreža. Odbrana i bezbednost iz ugla novinara i urednika sa prostora Jugoistočne Evrope.

bottom of page