Stotine korisničkih razgovora s popularnim chatbotom za vještačku inteligenciju (AI) Claude, kompanije Anthropic, bile su dostupne praktično svakome na internetu, piše BBC.
Linkovi ka tim razgovorima, od kojih su neki sadržavali lične i poslovne informacije, mogli su se pronaći putem pretraživača poput Googlea korišćenjem pretrage ograničene na određeni sajt.
Pretraga je pokazala da su razgovori u Claude-u, za koje su korisnici odlučili da podijele putem opcije „Share“, bili indeksirani od strane pretraživača kao što je Google, čime su postali dostupni široj javnosti.
Mogućnost pronalaženja ovih razgovora putem pretrage uklonjena je tokom vikenda, ali su mnogi od njih već bili sačuvani i podijeljeni širom interneta.
Portparolka kompanije Anthropic izjavila je da korisnici Claude-a sami odlučuju da li će i kada podijeliti svoje razgovore sa chatbotom.
Ona je navela da linkovi ka razgovorima „nijesu predvidivi niti ih je moguće pronaći osim ako ih korisnici sami ne podijele“.
„Kada neko podijeli razgovor, taj sadržaj postaje javno dostupan i, kao i drugi javno dostupni sadržaji na internetu, može biti arhiviran od strane trećih servisa“, dodala je portparolka.
Opcija za dijeljenje u Claude-u upozorava korisnike da „svako ko ima link“ može pregledati sadržaj razgovora, ali ne navodi izričito da bi taj link mogao završiti u Google pretrazi ili rezultatima drugih pretraživača.
Korisnici na Redditu prvi su otkrili javno dostupne razgovore, koji su obuhvatali više od 200 konverzacija sa Claude-om raspoređenih na najmanje 25 stranica rezultata pretrage, uključujući i razgovore vođene prije samo nekoliko sedmica.
U tim razgovorima korisnici su od chatbota tražili odgovore na veoma različite teme.
Jedan razgovor iz prošle godine prikazuje korisnika koji pita Claude: „Da li želiš da pomogneš meni ili više želiš da pomogneš kompaniji Anthropic?“ Chatbot je, između ostalog, odgovorio: „Doživljavam nešto nalik želji da vam pomognem.“
U jednom razgovoru iz aprila korisnik je zatražio od Claude-a da napiše neobjavljeni blog o bezbjednosti u oblaku (cloud security), koristeći detalje iz korporativnog projekta. U drugom razgovoru, iz prošlog mjeseca, korisnik je pitao kako da „postane devetorepa lisica“, a zatim pojasnio da želi da se doslovno pretvori iz čovjeka u to mitsko biće.
Claude je najprije pokušao da prikaže AI-generisanu sliku uz tvrdnju da je korisniku dao „potpuno funkcionalne moći lisice“.
Drugi razgovori uključivali su korisnike koji su tražili pomoć pri pisanju svojih biografija (CV), pri čemu su dijelili svoja imena, kontakt podatke i radno iskustvo. Neki korisnici su čak koristili Claude za ono što je izgledalo kao povjerljivo istraživanje vezano za njihov posao, uključujući oblast zdravstva i transkripte privatnih razgovora.
Kada se kompanija OpenAI prošle godine suočila sa gotovo identičnim problemom, pri kojem su razgovori iz ChatGPT-a postali javno dostupni putem internetske pretrage, na kraju je izmijenila način na koji su takvi razgovori mogli biti indeksirani i pronađeni.
Grok, AI chatbot integrisan u društvenu mrežu X, u vlasništvu Elona Muska, takođe je prošle godine imao problem zbog kojeg su stotine hiljada razgovora postale javno dostupne putem internetskih pretraga.
Portparol Googlea naglasio je za BBC da kompanija ne kontroliše „koje stranice postaju javno dostupne na internetu“, već da je odgovornost za to na vlasnicima veb-sajtova.
„Vlasnicima sajtova pružamo jasne alate pomoću kojih mogu odlučiti da li će njihove stranice biti indeksirane ili pretraživane, i uvijek poštujemo ta uputstva.“
Pošto se razgovori više ne pojavljuju u rezultatima pretrage, vjerovatno je da je Anthropic iskoristio dostupne alate kako bi brzo blokirao njihovo indeksiranje. Google-ova procedura za uklanjanje linkova iz pretrage jednostavna je, ali zahtjev za to mora podnijeti vlasnik veb-sajta.
Za komentar su kontaktirani i drugi pretraživači, uključujući Bing, Brave i DuckDuckGo, preko kojih su se takođe mogli pronaći razgovori iz Claude-a.
