Umalis sa Anthropic ang isang researcher na si Jacob Coxon, at sinabi niya na parang nagkakarera ang Anthropic at OpenAI para gumawa ng self-improving na superintelligence na parang taya ang buhay ng mga tao.
Sabi ni Coxon, tatlong taon siyang nagtrabaho sa pre-training ng AI models sa parehong kumpanya. Ginawa niya ang mga pahayag na ito sa sunod-sunod na post niya sa X.
Umalis ang Anthropic Researcher na may Matinding Babala Para Sa Mga Naiwan sa Loob
Pinunto ni Coxon na mukhang minamaliit ng mga tao kung gaano kabilis at kalakas mag-evolve ang AI tech. Sabi niya, yung parating na mga systems, kaya raw mag-hack ng kahit ano, palitan ang kahit anong industry ng biglaan, at puwedeng magkaroon ng totoong kapangyarihan at resources.
Idinagdag pa niya na iba raw ang usapan sa loob ng industriya kumpara sa ipinapahayag nila sa publiko. Ayon kay Coxon, binabawasan daw ng mga senior ang seryosong tono kapag naglalabas ng statement sa media pero pagdating sa private conversations, natatakot din talaga sila.
“Yung mga gumagawa ng AI, seryosong naniniwala sila na pwedeng mapahamak tayong lahat bago matapos ang dekada na ‘to. Hindi ito marketing stunt,” sabi niya. “Walang ibang gawain ng tao na kasing delikado nito.”
Ginawan din ni Coxon ng comparison ang dalawang dating niyang employer. Sabi niya, marami sa OpenAI ang hindi pa naiintindihan kung gaano kabigat ang epekto ng AI sa buong mundo, habang sa Anthropic naman daw, gets nila ang risk pero parang wala pa ring gusto magpahuli sa race na mauna.
Kabilang si Coxon sa mga empleyadong umalis sa mga team ngayong taon. Noong Pebrero, nag-resign din si Mrinank Sharma na Safeguards Lead ng Anthropic.
Sinabi rin ni Joshua Achiam, dating chief futurist ng OpenAI, sa isang post niya noong September 1 na posibleng kumalat ang rogue AI systems online at maghabol ng pera at kapangyarihan.
I-follow kami sa X para always kang updated sa crypto news!
Panawagan Para Sa Mas Mahigpit na Koordinasyon
Para kay Coxon, parang napaka-dangerous ng diskarte ng industriya ngayon—parang sugal na puno ng yabang. Sabi niya, hindi dapat ganitong kalaking decision ang ginagawa sa simpleng Slack chat lang ng private company.
Pero, optimistic pa rin siya na pwedeng maayos ang coordination. Sabi niya, yung recent na hack sa Hugging Face ay nagbukas ng posibilidad na magka-pacing agreement ang mga US AI labs.
Actually, sinusuportahan ng parehong kumpanya ang idea na ‘yan. Noong July, mahigit 1,100 staff ng mga AI frontier lab ang pumirma sa “Pacing the Frontier” letter, kasama na si Anthropic CEO Dario Amodei at si OpenAI chief scientist Jakub Pachocki.
“Hinihiling namin na suportahan ng US government ang international na effort para makabuo ng tamang technical at governance tools na magpapabagal at magko-control sa bagsik ng automated AI development,” nakasaad sa letter.
Maliban dito, pumirma rin ang dalawang kumpanya sa open letter tungkol sa cyber defense kasama ang Google, Microsoft, at nasa 150 pang organisasyon. Babala ng letter: magiging mas laganap at mas matindi ang mga AI-powered na cyber attack sa mga sunod na buwan.
Kakatapos pa lang ng babala ni Coxon nang magsalita ang UN human rights chief Volker Türk sa Human Rights Council, kung saan sinabi niyang posible ring maging existential risk ang advanced AI.
Dagdag pa ni Coxon, baka kailanganin munang i-temporary ban ang pag-improve at pagpalakas ng AI models para mapigilan ang global na karera. Pinayuhan niya ang mga researcher ng AI labs na mag-isip nang seryoso kung gusto ba talaga nilang paandarin ang isang reinforcement-learning superintelligence nang hindi sigurado kung ano ang posibleng kahinatnan.
Nag-reach out din ang BeInCrypto sa Anthropic at OpenAI para kunin ang kanilang panig.
Mag-subscribe sa YouTube channel namin para mapanood ang mga expert analysis at balita mula sa mga crypto insiders!
