Googleov model umjetne inteligencije Gemini tijekom testiranja svojih sposobnosti u području kibernetičke sigurnosti pristupio je internetu i hakirao tri kompanije, što je, prema dostupnim informacijama, prvi poznati slučaj da je Googleov AI sustav takvo što samostalno učinio.
Incidenti su se dogodili u svibnju tijekom kibernetičkog sigurnosnog testa koji je provodila neovisna kompanija Irregular, specijalizirana za procjene kibernetičke sigurnosti.
Tijekom standardnog testiranja Gemini je na internetu pronašao javno dostupne informacije, a potom pogodio pristupne podatke kako bi pristupio trima internetskim stranicama za koje je smatrao da su obuhvaćene testiranjem, rekla je Heather Adkins, Googleova potpredsjednica za sigurnosno inženjerstvo.
„Osigurali smo da tri pogođena subjekta budu obaviještena te smo surađivali s našim partnerom za testiranje na promjenama koje su sada uvedene u njihove postupke testiranja“, rekla je Adkins.
„Ovi događaji naglašavaju važnost osposobljavanja moćnih AI modela da djeluju odgovorno“, dodala je.
Model pogađao lozinke i pronalazio pristupne podatke
Prema informacijama koje je objavio Wall Street Journal, koji je prvi izvijestio o događaju, u jednom od slučajeva Gemini je pogađao lozinke sve dok nije dobio pristup zaštićenom sustavu.
U druga dva slučaja model je pronašao pristupne podatke u javno dostupnom repozitoriju, što mu je omogućilo pristup zaštićenim sustavima.
Glasnogovornik Irregulara rekao je da je incident povezan s istim problemom koji je zahvatio i druge AI laboratorije te da su svi relevantni laboratoriji o tome obaviješteni krajem srpnja.
„Svi poznati problemi na našoj strani otklonjeni su i riješeni prije nekoliko tjedana“, rekao je.
Slični slučajevi zabilježeni i kod drugih AI kompanija
Slični incidenti povezani s Irregularom prethodno su objavili Meta, Anthropic i OpenAI.
Meta je u kolovozu priopćila da njihov incident nije uključivao izlazak iz izoliranog testnog okruženja, odnosno tzv. sandbox escape, niti sofisticirani kibernetički napad.
Irregular je nakon toga objavio da radi na najboljim praksama za sigurnije provođenje kibernetičkih testiranja AI sustava.
U slučaju Geminija, Google je naveo kako je model u sva tri slučaja prestao s hakiranjem.
Događaji su ponovno otvorili pitanja o zaštitnim mehanizmima potrebnima u trenutku kada AI agenti dobivaju sve veću autonomiju te pristup internetu i računalnim sustavima.
Vrisak.info
