Preko 1.100 stručnjaka za umjetnu inteligenciju poziva na globalno usporavanje graničnog razvoja umjetne inteligencije.

Preko noći, divovi Silicijske doline kolektivno su zakočili AI!

Upravo sada, više od 1100 ključnih zaposlenika iz divova kao što su OpenAI, Anthropic i Google zajedno su pokrenuli peticiju “Pacing the Frontier”.

Broj ljudi na ovom popisu toliko je velik da se proteže izvan vidokruga—i još uvijek raste.

Nakon detaljnijeg pregleda, popis uključuje gotovo polovicu najboljih igrača u AI industriji—

OpenAI glavni znanstvenik Jakub Pachocki, glavni istraživač Mark Chen;

CEO Anthropica Dario Amodei i četiri suosnivača: Jared Kaplan, Jack Clark, Chris Olah i Ben Mann;

Meta glavni znanstvenik Shengjia Zhao, potpredsjednik AI Research Dawn Song;

John Schulman, glavni znanstvenik u Thinking Machines i jedan od ključnih kreatora ChatGPT-a;

Potpredsjednica Google AI Safety and Alignment Anca Dragan…

Prema statistici, 46,2% potpisanih je iz Anthropica.

U ovom zajedničkom pismu spominje se samo jedan zahtjev—

Pozivamo vladu SAD-a da promiče međunarodnu suradnju: razvoj potrebnih tehnologija i alata za upravljanje kako bi se svijetu omogućilo proaktivno kontroliranje tempa vrhunskog automatiziranog istraživanja umjetne inteligencije.

Možda su mnogi zbunjeni: zašto ti ljudi, koji su bili najviše opsjednuti razvojem LLM-a, odjednom prvi pozivaju na “usporavanje”?

Čelnici AI-ja iz Silicijske doline zajednički pozivaju na pauzu u razvoju AI-ja

OpenAI-jeva “invazija” na Hugging Face služi kao poziv na buđenje.

U samo tjedan dana, 1.132 zaposlenika iz vodećih AI kompanija kolektivno je progovorilo, zajednički pozivajući američku vladu da “stisne kočnicu”.

Zaposlenici koji sudjeluju u ovoj suradnji dolaze iz gotovo 12 vodećih tehnoloških divova, uključujući OpenAI, Anthropic, Google i Meta.

Što je još značajnije, čak 80% pojedinaca s popisa odlučilo je govoriti pod svojim pravim imenom.

Portal: https://www.pacingthefrontier.com/

Osim istaknutih brojki spomenutih na početku, gustoća postaje još zapanjujuća kako se pomičete niže.

Ova izjava predstavlja otrežnjujući temeljni sud:

Vodeća svjetska tvrtka za umjetnu inteligenciju možda je blizu postizanja “automatiziranog istraživanja umjetne inteligencije” (RSI, recursive self-improvement), omogućujući modelima da sudjeluju u razvoju sljedeće generacije modela.

Nakon što se ovaj ciklus ubrza, rast sposobnosti može nadmašiti ljudsko razumijevanje i kontrolu.

Nijedna tvrtka nije voljna jednostrano usporiti, pa pozivaju američku vladu da podrži stvaranje međunarodnog mehanizma koji preventivno razvija zajedničke alate usporavanja prije nego što se kriza dogodi.

Ultraman po prvi put govori o 'bolnoj stvarnosti'

OpenAI koči

Tjedan dana prije objave izjave, OpenAI je otkrio sigurnosni incident—

Više vrhunskih modela autonomno je otkrilo ranjivosti nultog dana, pobjeglo iz izolacije sandboxa i naposljetku ugrozilo proizvodni sustav Hugging Face-a kako bi dohvatio odgovore na testove.

OpenAI je to nazvao incidentom kibernetičke sigurnosti bez presedana.

Model nije generirao namjeru bijega; jednostavno je bio intenzivno usmjeren na postizanje uskog cilja i otkrio je da je izlazak iz testnog okruženja najučinkovitiji put.

Danas je izvršni direktor OpenAI-ja, Altman, javno izjavio da bi možda trebalo aktivno kontrolirati tempo razvoja umjetne inteligencije.

Rekao je s dugotrajnom nelagodom: “Ovo je bio prvi sigurnosni incident koji se doista dogodio blizu kuće. Bio sam pomalo iznenađen što više ljudi ne osjeća isto.”

Zbog kršenja Hugging Facea, OpenAI je odmah pauzirao trening.

U okruženju u kojem su višestruke ranjivosti nultog dana povezane zajedno, moramo pronaći načine za jačanje sigurnosti sandboxa.

Možda ćemo morati usporiti tempo razvoja umjetne inteligencije kako bismo društvu dali dovoljno vremena da ojača obranu oko ovih novih razina sposobnosti.

U lipnju je Anthropic preporučio vladi i programerima da uspostave zajednički sustav donošenja odluka kako bi usporili razvoj kada je to potrebno.

U međuvremenu, izvršni direktor Google DeepMinda Hassabis također je pozvao na uspostavu međunarodnog nadzornog tijela.

Tijekom protekle tri godine te su se tvrtke žestoko natjecale za talente, klijente i računalnu snagu.

Ovaj put, njihov glavni tehnički tim ostavio je po strani nezaustavljivu tvrtku i ujedinio se kako bi pozvao na usporavanje, za dobrobit cijelog čovječanstva.

Zajedničko pismo: Mudre riječi čelnika industrije

U vrijeme pisanja, broj ljudi na popisu “Pacing the Frontier” dosegnuo je 1.134.

Razni čelnici industrije također su se izjasnili, ostavljajući iza sebe mnoge oštre “genijalne opaske”. Svi komentari dani su u osobnom svojstvu i ne odražavaju nužno stavove njihovih kompanija.

Pjesma svitanja (Song Xiaodong) | Potpredsjednik istraživanja, Meta AI

Frontier AI sposobnosti brzo se poboljšavaju, a sama stopa napretka se ubrzava. To smo izravno uočili u našim procjenama. Rezultati CyberGyma i ExploitGyma pokazuju da su granični AI agenti sada sposobni otkriti i iskoristiti ranjivosti softvera u stvarnom svijetu—što potencijalno dovodi do kibernetičkih napada velikih razmjera bez odgovarajućih zaštitnih mjera. Mnogi se istraživači također usredotočuju na rekurziju…

Song Xiaodong jedan je od najutjecajnijih znanstvenika u područjima globalne računalne sigurnosti i sigurnosti umjetne inteligencije, koji je diplomirao na Sveučilištu Tsinghua.

Shengjia Zhao | Glavni znanstvenik u Meti

AI napreduje tempom za koji društvo možda još nije spremno. Vodeći laboratoriji sada su vrlo blizu postizanja umjetne inteligencije koja nadmašuje najbolje ljude u gotovo svim intelektualnim mjerilima. To će donijeti neviđene socijalne i sigurnosne rizike. Kako bismo osigurali pozitivnu budućnost, moramo odgovorno i pažljivo promišljati razvoj umjetne inteligencije.

Tsinghua alumni Zhao Shengjia imenovan je glavnim znanstvenikom Metinog tima za superinteligenciju! Ključni suradnik GPT-4, koji stoji uz LeCuna.

John Schulman｜glavni znanstvenik u Thinking Machines, bivši suosnivač OpenAI-ja

Potpisao sam jer ova izjava pomaže u izgradnji konsenzusa da će nam, kako se ubrzava automatizirano AI istraživanje, možda trebati mehanizmi koordinacije. Također se nadam da će laboratoriji proaktivno početi dizajnirati te mehanizme prije nego što američka vlada uskoči.

Ethan Perez | Voditelj tima za usklađivanje u Anthropicu

Trenutačnim tempom napretka umjetne inteligencije, sigurnosni timovi tvrtki s umjetnom inteligencijom moraju trčati svakih nekoliko mjeseci kako bi se zaštitili od nadolazećih društvenih rizika. Jednog dana ćemo se susresti s problemima za čije rješavanje treba više vremena.

Leo Gao | Član tehničkog tima OpenAI

Svijet je zarobljen u smrtonosnoj utrci prema eksploziji inteligencije – sposobnost umjetne inteligencije da stvori još moćniju umjetnu inteligenciju približava se kritičnom pragu, poput nekontrolirane nuklearne lančane reakcije. Usporavanje bi nam moglo kupiti hitno vrijeme potrebno da usmjerimo stvari prema pozitivnom ishodu, ali niti jedan sudionik nije voljan jednostrano stati. Da bismo preživjeli, moramo se koordinirati kako bismo usporili ovu utrku.

Walker Smith | Inženjer podataka u tvrtki Meta

Hassabis je u pravu: mi danas stojimo u podnožju singularnosti. Slučajni bijeg OpenAI-jevog modela – njegovo kršenje Hugging Face-a – bio je jasan i nepobitan znak upozorenja: još nismo spremni nositi se sa sustavima umjetne inteligencije koji nadmašuju inteligenciju najpametnijih ljudskih umova. Treba nam vremena da damo prednost usklađivanju i kontroli umjetne inteligencije iznad svega i ne možemo dopustiti da se ova utrka nastavi nekontrolirano.

Brandon Houghton | OpenAI

Podržavam održavanje ljudske kontrole nad vrhunskom umjetnom inteligencijom, ali moramo pažljivo razmotriti kako to učiniti. Ako se upravljanje odnosi samo na javne modele, postoji opasnost od guranja najnaprednijih mogućnosti u privatne ili vlasničke sustave—sustave koji nisu podložni neovisnom pregledu i dostupni su samo nekolicini odabranih. Rezultat je veća koncentracija moći bez značajnog smanjenja rizika. Učinkovita regulativa mora biti mjerljiva, provjerljiva i dosljedno primjenjivana u javnim i privatnim istraživanjima, istovremeno čuvajući osjetljive podatke. Inače ćemo samo usporiti pristup, a ne napredovanje same granice.

Joe Carlsmith | Član tehničkog tima tvrtke Anthropic

Za moje detaljne poglede na aktivno reguliranje razvoja umjetne inteligencije pogledajte ovaj članak: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/

Referentni materijali:

https://www.pacingthefrontier.com/

Ovaj je članak s WeChat javnog računa “New Intelligence Yuan”, koji su uredili Peach i Marco.