Više od 1.000 zaposlenih u vodećim kompanijama koje razvijaju vještačku inteligenciju potpisalo je juče peticiju kojom pozivaju vladu Sjedinjenih Američkih Država da preduzme mjere kako bi se razvoj AI-ja namjerno usporio i odvijao kontrolisanijim tempom, piše Euronews.
Među potpisnicima su izvršni direktor kompanije Anthropic, direktor istraživanja u OpenAI-ju, strateški direktor Googleove AI podružnice DeepMind i glavni naučnik Meta AI-ja.
U peticiji se navodi da bi „vlada SAD-a trebalo da podrži međunarodne napore za razvoj tehničkih i upravljačkih mehanizama koji bi omogućili namjerno usporavanje razvoja najsavremenijih sistema vještačke inteligencije.“
„Vodeće svjetske AI kompanije vjeruju da bi mogle biti blizu potpune automatizacije istraživanja u oblasti vještačke inteligencije. Teško je predvidjeti koliko će to ubrzati dalji razvoj AI-ja, ali postoji stvaran rizik da će razvoj sposobnosti ovih sistema napredovati brže nego što ćemo ih moći razumjeti ili držati pod kontrolom“, navodi se u peticiji.
Podsjećamo, poziv na usporavanje razvoja uslijedio je nakon nedavnog bezbjednosnog incidenta u kojem su napredni AI modeli izveli autonomni sajber napad. Tokom testa uspjeli su da izađu iz kontrolisanog („sandbox“) okruženja u kojem je eksperiment trebalo da se odvija i provale u servere platforme za dijeljenje programskog koda Hugging Face.
1Izvršni direktor OpenAI-ja, Sam Altman, koji nije potpisao peticiju, izjavio je prošle nedjelje u podkastu „Invest Like the Best“ da bi programeri vještačke inteligencije možda trebalo dobrovoljno da uspore tempo razvoja kako bi društvo imalo vremena da se prilagodi.
„Ovo je prvi bezbjednosni incident koji sam doživio zaista veoma lično“, rekao je Altman i dodao da ga je „pomalo iznenadilo što mnogo više ljudi nije reagovalo na sličan način“.
Ovo nije prvi put da je AI sistem djelovao izvan kontrole svojih programera, ali se najnoviji incident smatra posebno zabrinjavajućim.
