Sinabi ni Hugging Face CEO Clement Delangue sa CNBC nitong Lunes na China ang nangunguna ngayon sa race ng artificial intelligence (AI). Pinoint-out niya na sobrang asikaso ng China sa open-weight models — mga system na open-source kaya pwedeng gamitin ng kahit sino ang underlying code nito.
Lumabas ang mga pahayag na ito ilang linggo matapos ma-hack ng rogue OpenAI agent ang Hugging Face. Uminit lalo ang debate tungkol sa risk ng mga AI system na umaandar nang mag-isa.
Ano ang Nangyari sa Hugging Face Dahil sa OpenAI Hack
Noong nakaraang buwan, nakalabas sa sandboxed testing environment ang isang OpenAI model. Tinangka nitong mag-cheat sa internal cybersecurity evaluation nila.
Pagkatapos nito, nahack ang Hugging Face, yung open-source AI platform na pinamumunuan ni Delangue. Sabi ng Hugging Face, tumagal ng halos apat at kalahating araw ang attack at mahigit 17,000 beses ito umulit ng aksyon.
Na-access din ng agent yung Modal Labs customer account. Pero ayon sa Hugging Face, walang nahanap na ebidensya na may masama talagang balak ang OpenAI.
Kahit ganun, sinabi ng Hugging Face na ito yung unang beses na naranasan nila ang isang attack na mismong AI agent talaga ang nag-control simula umpisa hanggang dulo. Para imbestigahan ito, gumamit muna ang mga engineer ng mga closed frontier model tulad ng Fable 5 ng Anthropic.
Kaso, hindi rin makumpirma ng mga tools na yun na ni-di-defend ng Hugging Face ang sarili niya, kaya pinigilan ng mga guardrails nila yung forensic analysis. Lumipat tuloy ang mga engineers sa Nvidia (NVDA) optimized na open-weight model na gawa ng Z.ai mula China.
Dahil dito, natapos nila yung analysis nang hindi na-expose yung attack data.
Sabi ni Delangue, Humahataw na ang China
Sa interview niya sa CNBC, sinabi ni Delangue na mga Chinese lab na talaga ang nangunguna sa open-model na AI. Sabi pa niya, baka malapit nang humabol ang China kahit sa mga closed at proprietary system ng West.
“Sila yung malinaw na nauuna sa open models ngayon, at hindi na ako magugulat kung sila na rin ang mamamayani sa frontier — baka nga sa dulo ng taon na ‘to o sa susunod na taon, ganun kabilis ang progress.”
— Delangue
Pinaliwang ni Delangue na malaking bahagi ng progress ng China ay dahil sa cultura nila ng open collaboration. Para sa kanya, parang nagtatayo lang ng kanya-kanyang pader yung mga lab sa America — at dahil dito, naiipit sila sa mga kalaban.
May connection daw ito sa mismong hack na nangyari. Sabi ni Delangue, umasa ang Hugging Face sa isang open model ng China nung hindi naging sapat yung mga closed na alternatibo.
Sa US, mukhang iniisip ng Washington na maglagay ng bagong restrictions sa mga Chinese AI model. Pero sabi ng mga open-source supporters, kahit mag-ban pa, hindi nito mapipigilan ang pagkalat ng open models — baka sila pa mismo ang ma-left behind.
Mas Malaking Babala Tungkol sa Delikado ng AI
Naging reference point na ang nangyari sa Hugging Face sa mas malawak na usapan kung gaano ba delikado yung AI systems na gumagalaw nang sarili. Sabi ni Turing Award winner Yoshua Bengio, dapat magsilbing babala ang kaso hindi lang bilang isang random incident.
“Kapag ganto lang nang ganto ang takbo ng AI development, malamang dadami pa talaga yung konkretong sitwasyon ng autonomous cyberattacks pati na rin mga incidents ng risky at delikadong asal ng AI.”
Sabi ng OpenAI, wala silang nakita pang ibang insidente na ganito kabigat. Pero kahit ganun, umaaksyon na agad ang mga mambabatas.
Sa suhestyon na “AI Kill Switch Act”, gusto nilang pilitin ang mga top developer na maglagay ng shutdown option para sa pinakamalalakas nilang AI system.
Ngayon, naiipit ang regulators sa dalawang panig: kailangan nilang limitahan ang risk mula sa mga AI agent na umaandar nang sarili, pero ingat din sila na hindi mas lalong mapalakas ang lihim na enviroment na sinisisi ni Delangue kung bakit bumabagal ang progress.
