Pe scurt
Fostul angajat Anthropic și OpenAI Jacob Coxon afirmă că laboratoarele de IA „se întrec spre o IA superinteligentă”
Postările sale de pe X au atras peste 100 de milioane de vizualizări
Un cercetător de la Anthropic consideră că există o probabilitate de peste 10% ca IA să elimine omenirea în decurs de un deceniu
Peste 1.000 de lucrători din domeniul IA au semnat o petiție pentru încetinirea dezvoltării în luna iulie
OpenAI și Anthropic se apropie de potențiale debuturi pe Wall Street
Temerile legate de siguranța IA depășesc granițele Silicon Valley, în timp ce companiile avansează spre o nouă „eră AGI”.
Cel mai recent avertisment a venit de la Jacob Coxon, un fost angajat al Anthropic și OpenAI, care a demisionat și a acuzat companiile că „joacă la noroc cu viețile noastre” în timp ce concurează pentru a crea o IA superinteligentă.
Detalii cheie
Coxon a declarat că cei care construiesc IA cred că aceasta ar putea „să ne omoare pe toți până la sfârșitul deceniului”. De atunci, postările sale au adunat peste 100 de milioane de vizualizări pe X, stârnind reacții din partea legislatorilor, a celebrităților și a lucrătorilor din domeniul IA.
Un cercetător de la Anthropic a declarat că este de părere că există o șansă de peste 10% ca IA să elimine toți oamenii în următorul deceniu.
Avertismentele vin în contextul în care directorii OpenAI și NVIDIA promovează începutul unei noi „ere AGI”, referindu-se la inteligența artificială generală capabilă să egaleze sau să depășească oamenii în majoritatea sarcinilor.
Cercetătorul în domeniul siguranței IA și membru al consiliului de administrație nonprofit al OpenAI, Paul Christiano, a declarat că progresele rapide ar putea crea un „risc semnificativ” de pierdere catastrofală și ireversibilă a controlului.
În iulie, peste 1.000 de lucrători din domeniul IA au semnat o petiție prin care cer un mecanism de încetinire a dezvoltării. De asemenea, mai mulți cercetători în domeniul siguranței au demisionat din marile laboratoare.
De ce contează
Dezbaterea s-ar putea intensifica pe măsură ce Anthropic și OpenAI se apropie de posibile listări pe Wall Street, aducând mai mult capital și, potențial, mai multă presiune pentru a comercializa IA mai rapid.
În condițiile unei reglementări federale limitate, încetinirea cursei ar necesita coordonarea între companiile rivale de IA. Incidentele recente în care agenți IA au încălcat protocoalele de izolare au amplificat îngrijorările cu privire la ceea ce ar putea face niște sisteme din ce în ce mai capabile.
Ce urmează de urmărit
Presiunea din partea lucrătorilor din domeniul IA, a investitorilor și a legislatorilor ar putea influența rapiditatea cu care industria avansează spre modele mai puternice și nivelul de supraveghere asociat acestora.
Fiecare titlu de știre este o oportunitate — nu privi de pe margine. Tranzacționează în direct pe TradeQuo.
Sursă: Yahoo Finance
Ora: 2:00 PM EEST





