"Pozivamo na zabranu razvoja superinteligencije, koja se ne smije ukinuti prije nego što budemo imali široki naučni konsenzus da će se to raditi sigurno i kontrolisano, kao i snažnu podršku javnosti", piše u izjavi.
Potpisnici uključuju širok spektar ljudi iz različitih sektora i političkog spektra, uključujući istraživača vještačke inteligencije i dobitnika Nobelove nagrade Džefrija Hintona, Stiva Benona, bivšeg pomoćnika američkog predsjednika Donalda Trampa, bivšeg predsjedavajućeg Združenog komiteta načelnika štaba Majka Mulena i repera Will.i.ama. Izjava dolazi iz Instituta za budućnost života, koji je naveo da se razvoj vještačke inteligencije odvija brže nego što javnost može shvatiti.
"Na nekom nivou, ovaj put su nam odabrale kompanije i osnivači koji se bave vještačkom inteligencijom, kao i ekonomski sistem koji ih pokreće, ali niko zapravo nije nikoga drugog pitao da li je ovo zapravo ono što želimo", rekao je za NBC News izvršni direktor instituta Entoni Egier.
Opšta vještačka inteligencija (AGI) odnosi se na sposobnost mašina da razmišljaju i obavljaju zadatke jednako dobro kao i ljudi, dok bi superinteligencija omogućila vještačkoj inteligenciji da radi stvari bolje čak i od ljudskih stručnjaka. Kritičari i kultura generalno, navode tu potencijalnu sposobnost kao ozbiljan rizik za čovječanstvo. Međutim, dosad se vještačka inteligencija pokazala korisnom samo za uski raspon zadataka i dosljedno ne uspijeva da se nosi sa složenim zadacima poput autonomne vožnje.
Uprkos nedostatku nedavnih otkrića, kompanije poput OpenAI-a ulažu milijarde u nove modele vještačke inteligencije i informacione centre potrebne za njihovo pokretanje. Izvršni direktor Mete Mark Zakerberg nedavno je izjavio da je superinteligencija "na vidiku", dok je izvršni direktor X-a Ilon Mask rekao da se superinteligencija "dešava u stvarnom vremenu". Mask je takođe ranije upozorio na potencijalne opasnosti vještačke inteligencije.
Izvršni direktor OpenAI-a Sem Altman je kazao da očekuje da će se superinteligencija dogoditi najkasnije do 2030. godine. Nijedan od tih lidera, niti iko značajan iz njihovih kompanija, nije potpisao izjavu.
Ovo nije jedini poziv na usporavanje razvoja vještačke inteligencije. Prošlog mjeseca je više od 200 istraživača i javnih službenika, uključujući 10 dobitnika Nobelove nagrade i više stručnjaka za vještačku inteligenciju, objavilo hitan poziv za "crvenu liniju" protiv rizika vještačke inteligencije. Međutim, to pismo se nije odnosilo na superinteligenciju, već na opasnosti koje se već počinju materijalizovati, poput masovne nezaposlenosti, klimatskih promjena i kršenja ljudskih prava. Drugi kritičari upozoravaju na potencijalni balon vještačke inteligencije koji bi na kraju mogao pući i povući ekonomiju sa sobom.
