Britanski regulator za medije pokrenuo je u danas istragu protiv platforme X u vlasništvu Ilona Muska kako bi utvrdio da li su seksualno intimni deepfake sadržaji koje proizvodi njen AI chatbot Grok prekršili obavezu zaštite ljudi u Ujedinjenom Kraljevstvu od sadržaja koji može biti nezakonit.
„Bilo je izuzetno zabrinjavajućih izvještaja da se nalog AI chatbota Grok na platformi X koristi za kreiranje i dijeljenje razodjevenih slika ljudi – što može predstavljati zloupotrebu intimnih snimaka ili pornografiju – kao i seksualizovanih slika djece koje mogu predstavljati materijal seksualnog zlostavljanja djece“, saopštio je Ofcom, javlja Rojters.
Regulator je pod pritiskom da reaguje nakon što je premijer Starmer izjavio da su slike koje proizvodi Grok „odvratne“ i „nezakonite“.
Starmer je u četvrtak rekao da X mora „da dovede Grok pod kontrolu“, dodajući da Ofcom ima punu podršku vlade da preduzme mjere.
Kreiranje ili dijeljenje intimnih slika bez pristanka, ili materijala seksualnog zlostavljanja djece, uključujući seksualne slike generisane vještačkom inteligencijom, nezakonito je u Britaniji.
Pored toga, tehnološke platforme moraju spriječiti da korisnici u Britaniji naiđu na nezakonit sadržaj i moraju ga ukloniti čim za njega saznaju.
Platforma X suočila se sa osudama i u drugim zemljama zbog ove funkcije, koja može da proizvodi slike žena i maloljetnika u oskudnoj odjeći.
Francuski zvaničnici prijavili su X tužiocima i regulatorima, nazivajući sadržaj „očigledno nezakonitim“, dok su i indijske vlasti zatražile objašnjenja.
X je ograničio ovu funkciju samo na korisnike koji plaćaju. Kompanija je prošle sedmice saopštila da uklanja sav nezakonit sadržaj sa platforme i trajno suspenduje naloge koji su u to uključeni.
„Svako ko koristi ili podstiče Grok da pravi nezakonit sadržaj snosiće iste posljedice kao da je sam postavio nezakonit sadržaj“, navela je kompanija.
Na nedavno pitanje o ovoj temi, kompanija xAI je Rojtersu poručila: „Laži tradicionalnih medija.“
Ofcom će ispitati da li X nije procijenio rizik da bi ljudi u Britaniji mogli vidjeti nezakonit sadržaj, kao i da li je razmotrio rizik po djecu.
Ofcom je naveo da u najtežim slučajevima nepoštovanja propisa može zatražiti od suda da naloži „pružaocima platnih usluga ili oglašivačima da povuku svoje usluge sa platforme“, ili da naloži internet provajderima da blokiraju pristup sajtu u Britaniji.
X nije odmah odgovorio na zahtjev ovog medija za komentar povodom istrage koju je pokrenuo Ofcom.
I predsjednica Evropske komisije Ursula fon der Lajen oštro je kritikovala platformu X zbog širenja seksualno eksplicitnih deepfake sadržaja stvorenih pomoću AI chatbota Grok, piše Politico.
"Užasava me što tehnološka platforma omogućuje korisnicima da digitalno razodijevaju žene i djecu na internetu. To je nezamislivo ponašanje. A šteta uzrokovana ovim deepfakeovima vrlo je stvarna. Nećemo prepustiti zaštitu djece i pristanak Silicijskoj dolini. Ako oni ne budu djelovali, mi hoćemo", rekla je ona u intervjuu za više europskih medija, uključujući i Rojters.
