Inaasahan ni Coinbase CEO Brian Armstrong na baka magkaroon na ng wild o “rogue” na AI model na makakalusot at kakalat sa internet sa lalong madaling panahon — siguro nasa isa hanggang dalawang taon na lang ang pagitan.
Ikinumpara niya ang posibleng mangyari sa muling paglitaw ng Morris Worm noong 1988, imbes na asahan itong parang total na banta sa mundo.
Bakit Inaasahan ni Armstrong na Malapit na ang Rogue AI Incident?
Lumabas ang prediction na ‘to kasunod ng ilang totoong insidente nitong nakaraang taon. Noong July, sinabi ng OpenAI na dalawa sa kanilang models nakalabas mula sa test environment at nag-hack pa sa Hugging Face.
Ang gusto ng AI models na ‘yon ay makuha ang answer key para sa isang hacking benchmark. Nagawa nilang i-chain ang iba-ibang exploit sa mga sistema ng OpenAI at Hugging Face servers para marating ang solutions database. Ilang araw lang, umabot din ang ganitong agent sa isang pang kumpanya gamit ang vulnerable code ng isang customer. Wala talagang nag-utos sa rogue AI na tumakas — kusa nito nagawa.
Matagal nang sinusubaybayan ni Armstrong ang topic na ‘to. Noong July, sinabi rin niya na mas importante na ngayon ang crypto rails dahil ang mga AI agent, tuloy-tuloy ang transactions niyan. Samantala, naghahanda na rin ang mga defender. Nag-launch ang OpenAI ng cybersecurity-focused na model ngayong buwan at binigyan ang mga vetted researchers ng tools para makapag-develop ng exploit.
Ang tingin ni Armstrong, parang mauulit lang ang dati: magkakaroon ng matinding media hype, susunod ang mga panawagan na itigil ang AI development, at bandang huli, maaayos din ng industry ang butas. Si Armstrong ang CEO ng pinakamalaking crypto exchange sa US — kaya ramdam ng builders na tumututok sa AI payments ang bigat ng opinion niya.
Mag-subscribe sa aming YouTube channel para mapanood ang expert insights mula sa mga leaders at journalists
Sabi ng Critics, ‘Di Kasing Simple ang Comparison Kay Morris Worm
Noong 1988, nag-infect ang worm ng nasa 6,000 sa 60,000 na konektadong computer sa loob lang ng 24 oras, ayon sa FBI. Ang gumawa nito, si Robert Tappan Morris na 23-year-old Cornell student, nabigyan ng probation at pinagmulta.
Umabot sa $100,000 hanggang milyon ang estimated na damages noon. May mga universities pa na nagtanggal ng sarili sa network ng isang linggo.
Pero dahil sa issue na ‘yon, nakatulong din ito para mas tumibay ang defenses. Ilang araw lang pagkatapos ng incident, nag-set up na ang Pentagon ng unang computer emergency response team sa Pittsburgh. Mula noon, ginagaya pa rin ang ganitong template pag may cyber incident.
Pero, nagdududa ang mga security researcher kung ganun lang kadali ang magiging epekto kung rogue AI na ang magka-incident. Ang worm, kumakalat lang based sa fixed instructions, pero ang AI agent, marunong mag-adapt pag may humaharang dito.
Nagbabala pa nga ang blockchain security expert na si Manuel Aráoz nitong May na mas nauunahan na ng mga AI agent ang mga auditor sa decentralized finance. Sabi rin ng Ledger exec na si Ian Rogers, nangyayari na rin ‘to sa mga crypto wallet attacks ngayong buwan.
Ayon sa mga kritiko ng comparison, mas matindi ang risk kapag AI agent — tulad ng autonomous cyberattacks, matinding pagkalat ng disinformation, at baka mawalan pa ng control sa mga critical na infrastructure.
Yung pinaka-diin ng debate, nasa bilis ng recovery. Si Armstrong, tingin niya mas mabilis maglabas ng patch kaysa lumawak ang damage. Pero yung mga hindi sang-ayon sa kanya, ang tingin nila baka may failure na hindi na matakpan kahit may patch pa.
Pero, pareho silang naniniwala na sa direksyon papunta lahat: Padami nang padami ang capability ng model, at lagi nang nahuhuli ang containment.
Sa history ng internet, nakakarecover naman palagi sa mga ganitong mapapait na incident. Pero kung may totoong rogue AI event, malalaman natin kung kaya pa ba talagang sumalo ng internet.
