Stručnjaci upozoravaju na rizike: Rastu strahovi od gubitka kontrole nad AI

Nova upozorenja iz same industrije vještačke inteligencije ponovo su pokrenula debatu o tome da li bi napredna vještačka inteligencija mogla da izmakne ljudskoj kontroli i na kraju ugrozi opstanak čovječanstva, kao i o tome da li kompanije koje razvijaju ovu tehnologiju čine dovoljno da spriječe takav scenario.

Zabrinutost zbog potencijalnih rizika ove tehnologije raste kako novi modeli vještačke inteligencije postaju sve moćniji, čime se povećavaju i mogućnost zloupotrebe.

Džejkob Kokson, istraživač u oblasti vještačke inteligencije, podnio je ostavku u kompaniji 'Antropik’ ranije ovog mjeseca, objavivši poruku na platformi X u kojoj je optužio kompanije ‘OpenAI’ i ‘Antropik’ za neodgovorno ponašanje, navodeći da ‘jure ka super-inteligenciji koja se sama unaprjeđuje i kockaju se sa našim životima’.

U objavama na društvenim mrežama, Kokson je procijenio da postoji vjerovatnoća od 10% da vještačka inteligencija izazove izumiranje ljudske vrste u narednoj deceniji.

"Vidjeli smo nevjerovatan napredak vještačke inteligencije, od prepoznavanja obrazaca do rješavanja veoma složenih problema, gdje čak ni ljudi ne mogu da provjere kvalitet tih rezultata. U narednih nekoliko godina vidjećemo još sposobnije modele za koje znamo da bi, ako se usmjere u pogrešnom pravcu, mogli da nanesu ozbiljnu štetu infrastrukturi, ekonomiji i brojnim drugim aspektima", kazao je Adel Bibi sa Oksford univerziteta.

I Dario Amodei, izvršni direktor kompanije ‘Antropik’ iz San Franciska izjavio je da smatra da industrija treba da uspori tempo rada. On je upozorio da bi ‘roj’ AI agenata mogao da preuzme kontrolu nad internetom u roku od šest mjeseci do godinu dana, ukoliko kompanije ne posvete više vremena uvođenju zaštitnih mjera.

Nekoliko dana nakon što su dva bivša istraživača bezbjednosti iz ‘Antropika’ javno izrazila zabrinutost zbog egzistencijalnih prijetnji koje vještačka inteligencija može predstavljati za čovječanstvo, Dario Amodei je iznio plan. Njime se predviđa da kompanije poput njegove, kao i vlade širom svijeta, osiguraju da modeli vještačke inteligencije, koji postaju sve sposobniji, ostanu usklađeni sa nalozima i vrijednostima odgovornih ljudi.

‘’Ideja o usporavanju znači da bi modeli trebalo da se puštaju u upotrebu na odgovoran način, ali i da njihovim radom treba da upravljaju posebna tijela. Postojali su prijedlozi da to čini nekoliko organizacija a plan Darija Amodeija predviđa da se u okviru ’Antropika’ angažuju posebni subjekti koji bi imali pristup sličan onom koji imaju zaposleni, kako bi sprovodili određene procjene i razumjeli rizike prije samog puštanja modela u rad. Smatram da je ovo odličan korak, posebno zato što se različite strane, poput ’OpenAI’ i Ilona Maska, slažu da je to korak u pravom smjeru”, ističe Bibi.

Od autonomnih vozila i dronova za otkrivanje šumskih požara, preko robota koji trče brže od ljudi, pa sve do uticaja na zdravstvo, ova tehnologija će uskoro postati dio naše svakodnevice.

Ali, koliko su opravdani strahovi da bi AI, bilo izmicanjem ljudskoj kontroli ili zloupotrebom od strane beskrupuloznih pojedinaca, mogla da izazove katastrofu planetarnih razmjera ili čak propast civilizacije?

Niko ne zna odgovor na to pitanje.

Stručnjaci iz oblasti računarstva, filozofije i drugih disciplina predvidjeli su brojne scenarije u kojima bi budući sistemi vještačke inteligencije mogli da izazovu globalnu katastrofu – bilo da se otrgnu kontroli ili da dospiju u ruke zlonamjernih ljudi.

Ne postoji opšteprihvaćena procjena o tome kada bi se neki od ovih scenarija mogao dogoditi, niti postoji konsenzus o vjerovatnoći njihovog ostvarivanja. Ali postoji opšetprihvaćena procjena da se vještačka inteligencija razvija toliko brzo da vladini sistemi i sistemi za procjenu teško uspijevaju da drže korak sa tom tehnologijom. Zato zemlje na brzinu donose sopstvene zakone, od kojih su neki međusobno u suprotnosti.

Džek Klark, jedan od sedmorice osnivača kompanije ‘Antropik’, izjavio je da bi društvo možda željelo da vremenom donese propise o načinu za potpuno isključivanje softvera za vještačku inteligenciju ukoliko on postane previše opasan, dok je Mustafa Sulejman, rukovodilac odjeljenja za vještačku inteligenciju u Majkrosoftu, upozorio da bi, bez odgovarajućih zaštitnih mjera, razvoj vještačke inteligencije mogao dovesti do pojave nove ‘silikonske vrste’ koja bi se nadmetala sa ljudima.