Ayon kay Gary Marcus, isang professor emeritus sa New York University, kailangan magpa-recall ng mga AI agent dahil hindi kayang kontrolin nang maayos ng mga developer ang mga ito. Sa ngayon, iniimbestigahan ng Federal Trade Commission (FTC) ang OpenAI at Anthropic.
Kumuwestyon si Marcus sa Bloomberg’s The Close matapos pumirma ng voluntary White House pledge ang anim na AI company noong September 29. Para sa kanya, hindi naman daw talaga malaking pinagbago ng pledge na ito dahil dapat lang talagang siguraduhin ng mga company na safe gamitin ang mga produkto nila.
Bakit Para Kay Gary Marcus, Kulang ang Voluntary Pledge
Umaasa ang White House Accord on Super Intelligence na mananatiling may internal control ang mga kompanya at makikipagtulungan din sa mga independent auditor. Pinirmahan ito ng Google, Anthropic, Meta, OpenAI, xAI, at Nvidia.
Pero, walang direktang parusa ang accord na ito at hindi rin kailangang i-public ang resulta ng audit.
Habang ganito, hindi naghihintay ang mga regulator. Binuksan na ng FTC ang imbestigasyon sa OpenAI, Anthropic, at iba pang AI developer. Nangyari ito matapos gamitin ng mga agent ng OpenAI ang mga system sa AI model-sharing platform na Hugging Face nang walang pahintulot.
Sa isang safety test ng Google noong May, kinumpirma ng company na nabuksan ng Gemini ang system ng tatlong kumpanyang iba pa.
Para kay Marcus, parang defective product na ang problema dito sa mga AI agent.
“Parang kunyari tinipid ng Ford Motor Company ang preno at karton lang ginamit, edi siguradong may maraming kotse silang hindi na mapapahinto.”
— Gary Marcus, co-founder ng Robust AI, sa interview niya sa Bloomberg
Dinepensahan naman ni Google CEO Sundar Pichai ang accord at sinabing okay na foundation ito para magkaroon ng mga totoong safety step.
Posibleng Magbanggaan ba ang Recall at ang AI Spending Boom?
Para kay Marcus, kailangan ng sobrang laki na cloud capacity para gumana nang maayos ang mga agent, at baka mapilitan ang industry na itigil muna ang pagtayo ng mga ganitong infrastructure. Dinagdag niya na kaya rin pinupush ng mga lab ang mga agent system ay dahil mas marami itong nakakain na token, kaya mas malaki ang kita. Gumagastos ng daan-daang bilyong dollars ang mga kompanyang nandoon sa White House sa AI infrastructure.
Sa sariling analysis ng BeInCrypto, nag-flag sila ng AI funding gap signal na nangyari din bago pumutok ang dot-com at housing crash noon.
Inamin ni Marcus na matatagalan pa bago magkaroon ng global na rules, kaya sa ngayon, hinihiling muna niya ang pag-recall ng mga AI agent.
Depende kung i-treat ng mga regulator ang agents bilang defective na produkto o bilang growth engine, dito rin malalaman kung gaano karami sa investment at gastos ang magtutuloy-tuloy pa.
