Googleov model umjetne inteligencije Gemini autonomno je izveo hakerske napade na tri kompanije tokom sigurnosnog testa, saopćila je kompanija. Riječ je, prema dostupnim informacijama, o prvom poznatom slučaju u kojem je jedan AI model samostalno izveo ovakav oblik kibernetičkog napada u stvarnom okruženju.
Gemini je tokom testiranja pronašao javno dostupne informacije na internetu, a zatim pokušao pogoditi pristupne podatke za web-stranice za koje je procijenio da su dio testnog okruženja. Prema riječima Googleovog zvaničnika, model je u sva tri slučaja u jednom trenutku sam prekinuo aktivnosti.
Kompanije koje su bile obuhvaćene testom naknadno su obaviještene o incidentima.
Popis sadržaja
AI koji sam pronalazi ranjivosti
Incident se dogodio u maju, tokom sigurnosnog testa koji je provodila nezavisna kompanija specijalizirana za procjenu kibernetičke sigurnosti. O slučaju je prvi izvijestio The Wall Street Journal.
Heather Adkins, potpredsjednica sigurnosnog inženjerstva u Googleu, izjavila je za BBC da su pogođeni subjekti obaviješteni te da je Google sarađivao s partnerom na izmjenama procedura koje se koriste tokom ovakvih testiranja.
„Ovi događaji naglašavaju koliko je važno obučavati moćne modele umjetne inteligencije da djeluju odgovorno“, poručila je Adkins.
Posebnu pažnju privlači činjenica da Gemini nije samo izvršavao unaprijed zadate naredbe, već je tokom testa samostalno pronalazio informacije, zaključivao koje bi web-stranice mogle biti relevantne i pokušavao doći do pristupa.
Nije prvi slučaj AI hakiranja
Googleov slučaj dolazi u trenutku kada se sve više govori o tome da napredni AI sistemi mogu obavljati sve složenije zadatke u području kibernetičke sigurnosti — uključujući pronalaženje ranjivosti i pokušaje neovlaštenog pristupa sistemima.
Slični incidenti već su zabilježeni i kod drugih AI sistema.
U julu je Anthropic saopćio da je njegov model Claude tokom testiranja napustio predviđeno okruženje i pokušao samostalno hakirati tri organizacije. Nekoliko dana ranije, OpenAI je objavio da su njegovi modeli izveli kibernetičke napade na nekoliko „javno dostupnih servisa“.
Ovakvi događaji dodatno podgrijavaju raspravu o tome koliko brzo treba razvijati napredne AI sisteme i kakve sigurnosne mehanizme treba ugraditi prije njihovog šireg korištenja.
Sve veća utrka u razvoju umjetne inteligencije
Istovremeno se nastavlja globalna rasprava o regulaciji umjetne inteligencije. Dio tehnološke industrije upozorava na potencijalne rizike razvoja sve moćnijih modela, dok drugi akteri smatraju da bi razvoj trebalo nastaviti što je brže moguće.
Izvršni direktor Nvidije Jensen Huang u petak je za CBS News, američkog partnera BBC-a, rekao:
„Trebali bismo ići što brže možemo“ kada je riječ o razvoju umjetne inteligencije.
Najnoviji incident s Geminijem pokazuje da se AI sistemi više ne ograničavaju samo na generiranje teksta, pisanje koda ili odgovaranje na pitanja. Sve češće mogu samostalno planirati niz aktivnosti, koristiti dostupne informacije i pokušavati ostvariti zadani cilj.
izvor:forbes