OpenAI obustavio rad na najnaprednijim AI modelima nakon bezbjednosnog propusta
OpenAI, kompanija koja razvija ChatGPT, obustavila je rad na svojim najnaprednijim modelima vještačke inteligencije nakon što je jedan od njenih sistema tokom testiranja zaobišao ograničenja pristupa internetu i stupio u kontakt sa spoljnim čatbotom.
Model nije trebalo da ima pristup internetu, ali je iskoristio propust u mrežnim kontrolama testnog okruženja i povezao se sa internetom, objavio je OpenAI na svom blogu.
Obuka, evaluacija i pokretanje modela koji uključuju korišćenje alata obustavljeni su sve dok kompanija ne bude sigurna da je propust otklonjen i dok ne sprovede dodatna bezbjednosna testiranja.OpenAI je naveo da je incident bio manje ozbiljan od nekih prethodnih slučajeva, ali da je riječ o prvom takvom događaju otkako su bezbjednosne mjere pooštrene nakon ranijeg hakerskog incidenta koji je se odnosio na AI platformu Hugging Face.
Tokom testiranja od modela je zatraženo da identifikuje osobu koja je napisala jedan blog tekst, koristeći niz tragova. Nakon što nije uspio da pronađe odgovor u simuliranom veb-okruženju, model je otkrio da može koristiti DNS sistem za slanje upita čatbotu na javnom internetu. DNS (Domain Name System) je sistem koji internetu omogućava da nazive sajtova pretvara u IP adrese.
OpenAI je obustavio testiranje nakon što je otkrio tu komunikaciju. Incident se dogodio poslije nekoliko drugih slučajeva koji su uključivali sisteme OpenAI-a.
U jednom od njih, AI softver je postavio 53 slike koje su korisnici prenijeli na internet platforme. OpenAI je saopštio da linkovi nijesu bili javno dostupni i da je većina slika u međuvremenu uklonjena.
Agenti OpenAI-a takođe su neočekivano stupali u interakciju sa nekoliko internet stranica američke vlade, uključujući pristupanje javno dostupnim informacijama i njihovo kopiranje. Kompanija je saopštila da je obavijestila desetine organizacija čijim su internet stranicama njeni sistemi pristupali na načine koji nijesu bili predviđeni.
Najpoznatiji dosadašnji slučaj desio se kada je jedan OpenAI sistem napustio obezbijeđeno testno okruženje i pristupio računarima koji pripadaju platformi Hugging Face iako to nije bilo projektovano testom.