Suosnivač Hugging Facea, tehnološkog startapa koji je hakovan nakon što su neki od najnaprednijih modela vještačke inteligencije (AI) kompanije OpenAI oteli kontroli, izjavio je danas da je ovaj incident poziv na buđenje za cijelu industriju, javlja BBC.
Tomas Volf je za BBC rekao da će ovo biti jedan od najčešćih tipova sajber napada koje ćemo viđati, ali da većina kompanija nije svjesna da se igra promijenila.
1Tvorac ChatGPT-a izjavio je u utorak da su njegovi AI modeli probili sigurno testno okruženje tokom probnog rada i pokrenuli sajber napad. Kompanija je navela da je incident bez presedana i da provodi istragu u saradnji s Hugging Faceom.
AI agenti mogu djelovati samostalno kako bi izvršili zadatke nakon ljudskih instrukcija.
Volf je u radijskoj emisiji BBC Newsday rekao da Hugging Face u početku nije imao pojma odakle napad dolazi kada su se u sredini jula pojavili prvi znaci, ali da je kompanija uspjela obuzdati upad.
Hugging Face je jedno od najvećih svjetskih čvorišta otvorenog koda (open-source) za dijeljenje AI modela i često ga koriste tehnološki programeri i istraživači.
Volf je rekao da se ovaj upad veoma razlikovao od uobičajenih sajber napada s kojima se Hugging Face inače suočava te da ih je OpenAI brzo obavijestio da iza hakovanja stoje njihovi modeli.
U "veoma kratkom roku" zabilježeno je 17.000 napada na mrežu Hugging Facea s različitih IP (Internet Protocol) adresa, rekao je Volf, koji je ujedno i glavni naučni direktor kompanije.
Ovaj upad je i upozorenje drugim kompanijama da moraju pojačati svoje odbrambene sajber mehanizme kako bi se suprotstavile takvim napadima, dodao je Volf.
Portparol vlade Ujedinjenog Kraljevstva izjavio je da njen Institut za AI sigurnost proučava kako se AI sistem ponašao tokom incidenta te da nastavlja saradnju s OpenAI-jem i drugim laboratorijama na jačanju zaštitnih mjera. Pozvali su organizacije da pojačaju svoje mjere sajber sigurnosti preuzimanjem koraka poput prijave u šemu certifikacije Cyber Essentials koju podržava vlada.
Incident se dogodio u presudnom trenutku za industriju, nakon što je američka vlada prošlog mjeseca naredila američkoj tehnološkoj kompaniji Anthropic da ograniči pristup svojim AI modelima zbog zabrinutosti za nacionalnu sigurnost. Ministarstvo trgovine SAD-a ukinulo je ta ograničenja nekoliko sedmica kasnije.
Ljudi iz industrije takođe su izrazili zabrinutost za sigurnost zbog široke upotrebe open-source modela u Kini, što omogućava bilo kome da instalira i prilagođava AI alate koje su objavili vodeći programeri.
Kineski startap Moonshot AI objavit će svoj open-source model Kimi K3 27. jula. Otkako je debitovao prošle sedmice, privukao je pažnju industrije, a mnogi ga vide kao snažnog konkurenta vodećim zapadnim AI sistemima.
Međutim, u srijedu je savjetnik Bijele kuće optužio Moonshot za pokušaj krađe mogućnosti vodećih američkih AI modela u "velikim razmjerama".
