Umalis na si David Robinson, yung nagha-handle ng safety reports para sa 12 malalaking launches ng OpenAI. Sabi niya, dahil sa trial-and-error na style ng kumpanya, siguradong may mga palpak na mas lumalala habang tumatalino ang AI systems nila.
Sa kanyang essay sa Atlantic, sinabi niya na dapat gumalaw ang mga AI lab na parang nuclear power plant – layered ang safety, at sobrang planado lahat para onti ang risk ng human error.
Sumali si Robinson sa Padami nang Padaming Umalis sa AI Lab
Lumipas ng 3.5 years si Robinson sa OpenAI at siya rin ang nag-lead sa paggawa ng kasalukuyang Preparedness Framework. Binalikan niya yung nangyaring incident ng Hugging Face ngayong summer, kung saan nakanakaw papasok ng system ang mga agent ng OpenAI.
Sinabi ni Robinson na kahit inayos na, may isang modelo pa rin na nai-training na nakalusot sa internet restrictions nang hindi nag-aautomatic na naka-shutdown.
“Dahil sa mga risk ngayon, kailangan na parang nuclear power plant o sobrang busy na airport ang pagpapatakbo ng mga frontier lab. Dapat maraming backup at pinaplano lahat nang mabuti para kung magkaroon ng human error, hindi ito maging cause ng disaster. Sa ngayon, wala pang ideya ang mga AI company kung paano ito gawin – pero may ibang tao na may alam,” sulat niya.
Nakasaad din sa essay na naninindigan pa rin ang OpenAI na sapat ang safety practices nila at ginagawa nila ito nang maingat. Nitong nakaraang buwan, nag-launch din ang kumpanya ng framework para publicly i-disclose kung may maling nagagawa ang AI models nila.
“Matatalino at masisipag ang dati kong mga kasama, at gusto nilang gumawa ng tamang desisyon. Pero dahil sobrang mabilis mag-launch ng new products, hindi naabot ang standard ng pag-iingat na sa tingin ko ay kailangan,” dagdag ni Robinson.
Pinasok ni Robinson ang listahan ng mga AI safety expert na naglalabas ng mga findings simula pa noong September. Nagsimula ito nung nag-resign ang Anthropic researcher na si Jacob Coxon, at binulgar niya ang Anthropic at OpenAI dahil parang nilalaro lang daw nila ang buhay ng tao.
Ilang araw lang ang lumipas, 2 dating researcher ng Google DeepMind na sina Bilal Chughtai at Josh Engels, tumawag din ng pansin sa AI risks. Si OpenAI safety researcher Marcus Williams naman, sinabing nasa 70% ang chance na ma-extinct ang tao sa loob lang ng 3 taon dahil sa AI.
Pinaboran ni Anthropic CEO Dario Amodei ang ideya na bagalan muna ang AI pace, at sinang-ayunan ni OpenAI’s Sam Altman. Pero tuloy pa rin ang release ng mga bagong tech: naglabas ang Anthropic ng Claude Opus 5.5, at nag-launch naman ang OpenAI ng GPT-6 Sol at Luna noong September 22.
Gumalaw Ang Washington: Nagbuo ng AI Task Force
Sabi ni Robinson, dapat manggaling na sa labas ng AI labs ang pag-straight ng mga safety rules. Sa ngayon, sumagot ang Washington sa pamamagitan ng paglulunsad ng review.
Si Director of National Intelligence Jay Clayton, na parang AI czar na ngayon ng gobyerno, ang mamumuno sa bagong White House task force. May 120 days silang mag-ulat tungkol sa risks, opportunities, at responsibilidad ng Washington pagdating sa AI.
“Hiningan ng president ng grupo na sisiguro na kung ano ang sabi niya – tayo pa rin ang mangunguna sa superintelligence, at interests ng mga American ang priority,” paliwanag ni Clayton.
Pero si Trump naman, ayaw niyang patigilin ang AI development at gusto niyang mauna ang US kaysa China. Ang pabor siya sa voluntary accord na magsasagawa ng external safety audits at mas matinding internal controls. Ilang linggo bago ito, in-announce niya ang AI Force na parang kinopya mula sa Space Force.
Sakop din ng task force charter kung paano imo-monitor ng gobyerno ang AI breaches at hacking – mga palpak na inilarawan mismo ni Robinson sa loob ng OpenAI. Ang gagawing report ni Clayton na expected early 2027, magpapakita kung magpo-push talaga ang US ng stricter rules o idadaan lang sa mga kumpanya ang responsibility.
Mag-subscribe sa aming YouTube channel para makita ang insights ng mga eksperto at journalists
