Američka administracija pokreće novu fazu nadzora nad najnaprednijim modelima umjetne inteligencije, tražeći od vodećih tehnoloških tvrtki da omoguće vladinim stručnjacima sigurnosna testiranja prije nego što modeli postanu javno dostupni.
Iako je okvir zasad formalno dobrovoljan, poruka iz Washingtona je jasna – modeli koji imaju potencijal mijenjati kibernetičku sigurnost, automatizirati složene zadatke i djelovati u osjetljivim područjima više se ne mogu tretirati kao obična softverska ažuriranja.
U središtu inicijative nalazi se procjena rizika naprednih AI sustava prije njihove široke distribucije. Testiranja bi obuhvaćala sposobnost modela da pomogne u otkrivanju i iskorištavanju sigurnosnih ranjivosti, zaobilaženju zaštitnih mehanizama, automatizaciji napada ili generiranju uputa koje bi mogle imati ozbiljne posljedice u stvarnom svijetu.
Takav pristup predstavlja značajan pomak za industriju umjetne inteligencije. Dosad su tempo razvoja uglavnom određivali tehnološki napredak, tržišno natjecanje i dostupnost računalne infrastrukture, dok se sigurnosna provjera provodila tek nakon puštanja proizvoda na tržište. Sada se uvodi dodatni sloj kontrole i provjera prije komercijalne dostupnosti.
Američki model oslanja se na dobrovoljne dogovore između države i tehnoloških kompanija, što predstavlja kompromis između deregulacije i rastućih zahtjeva sigurnosnih stručnjaka.
Takav pristup ostavlja prostor kompanijama da nastave inovacije bez formalnog usporavanja procesa, ali istovremeno otvara pitanje standardizacije i razine pristupa koji će vlada imati u testiranju modela.
Stručnjaci upozoravaju da dobrovoljni okvir može ovisiti o spremnosti kompanija na suradnju, što znači da će učinkovitost sustava u velikoj mjeri ovisiti o povjerenju i tržišnoj dinamici.
Promjena je posebno važna jer se sve više razvijaju takozvani “frontier” AI modeli, čije se sposobnosti ne mogu lako ograničiti ili naknadno “zakrpati” nakon javnog objavljivanja. U takvim slučajevima potencijalne zloupotrebe mogu nastati brzo i u velikom opsegu, prije nego što regulatorni ili sigurnosni mehanizmi reagiraju.
Očekuje se da bi slični trendovi mogli utjecati i na Europu, gdje se već primjenjuje okvir kroz EU AI Act, no regulacija se i dalje pokušava uskladiti s brzim razvojem tehnologije.
Američki pristup mogao bi poslužiti kao model za dodatne sigurnosne zahtjeve, osobito u sektorima poput obrane, zdravstva i financija.
Promjene će se odraziti i na poslovni sektor, gdje će pri uvođenju AI rješenja sve važnija postajati pitanja sigurnosnih procjena, revizije modela i odgovornosti u slučaju štete, a ne samo performansi i cijene tehnologije.
Vrisak.info
