May nagsumite ng grant application kay Claude, pero hinarang ito ng safety filter niya at hindi pinayagan. Ilang araw pa ang lumipas, bumalik uli yung parehong operator, tapos yung mga na-refuse na prompts, napunta na daw sa kalabang AI model.
Sariling kuwento ng Anthropic yan tungkol sa sarili nila, kung saan tinukoy nila ang mismong sitwasyon na may AI model sila na muntik nang ma-involve sa posibleng biological weapons research.
Yung Grant na Hinarang
Para daw sa pag-aaral ng chikungunya yung application — isang virus mula sa lamok na pwedeng magdala ng matagal na sakit at walang gamot. Pero ang plano, pag-aralan kung paano pa ito mas mapapalaganap at makakaiwas sa immune system. Mga civilian scientist ang sumulat, tapos sa isang military institute sana gaganapin yung research.
Hindi daw talaga nakakapasok yung mga request, pero nakahanap sila ng paraan. Gumawa ng sarili nilang backup system yung service na ginagamit nung mga researcher, gamit ang AI ng ibang kalaban. Pero si Claude, tinulungan pa silang gawin yung code para di na pare-pareho ang nahaharang. Talagang binenta sa kanya bilang solusyon sa sobrang daming na-re-refuse na prompts.
Lima ang Umiinit, Wala Namang Napatunayang Masamang Balak
Yung report ay may 154 na pages at limang biology cases na tinukoy. Binlock ng Anthropic yung mga accounts, hindi nila pinangalanan yung labs, pero hindi rin nila inakusahan ng diretsahan, na marami ang nag-aabang.
“Hindi namin sinasabi na may balak silang makasama, at ang pag-identify sa kanila o sa labs nila ay pwede pa silang mapahamak,” ayon sa team sa report.
Kapansin-pansin din, minsan gumagana naman talaga yung filters nila. Halimbawa, yung isang nag-aaral ng bird flu, napilitang gumamit ng mas weak na AI models, at sinasabi ni Anthropic na clerical o basic assistant lang talaga yung tulong ng model.
By the Numbers: Biological Weapons Case ni Anthropic
| Figure | Ang Ibinibilang Nito |
|---|---|
| 154 | Bilang ng pages sa report |
| 5 | Biology cases na lumabas |
| 35 | Mga research pinuntirya sa 30 days na sweep sa mga institution na konektado sa state |
| 1 hour | Bilis na na-draft ng isang user yung smallpox-family grant gamit Opus 5 |
I-follow kami sa X para ‘di ka mahuli sa latest news!
Yung Dapat Ikinabahala ng Tao
Karamihan ng 35 na efforts na yun, normal lang na civilian science. Pero yun nga ang problema — magkatulad lang din yung proseso kung pang-vaccine o sandata yung gamit ng knowledge, at hindi kayang basahin ng filter ang balak ng tao.
“Hindi kayang mapagsabay ng AI classifier na parehong mapakinabangan at mapigilan ang harm,” ayon sa Anthropic.
Naitest na rin noon ang limitations ng AI filters nila. Noong April, may Discord group na nakalusot sa restricted model ng Anthropic agad sa unang araw pa lang.
Dahil dito sa sunod-sunod na matitinding takot, kumikilos na ang Washington — sina representatives Ted Lieu at Nathaniel Moran ay nag-file ng AI Kill Switch Act nitong July. Layunin nito na siguraduhing may control pa rin ang developers para mapatigil nila ang system kapag kailangan.
Ilang client din ang sinabihan ng report na banned, kasi ginamit nila ang Claude para mag-track ng dissidents.
