Isang tanong lang ang laging tinatanong ni Michael Dell sa bawat kumpanyang gumagamit ng AI: Ano yung mga bagay na hindi pwedeng gawin ng agent, kahit anong ipagawa mo dito?
Ginawa ni Nvidia ang Open Agent Safety Platform — isang bagong sistema na nilaunch nila. Sabi ni Nvidia CEO Jensen Huang, isa itong open ecosystem para madaling makapag-build ng trust layer na magpapasigurado na ligtas gamitin ang mga agent system.
Bakit Gusto ni Michael Dell Magkaroon ng Matitinding Limitasyon ang AI Agents
Ang AI agents ay mga programs na gumagalaw ng kusa. Nakakasulat sila ng code, nakakabukas ng files, at nakakagalaw sa company systems, kadalasan ay wala nang nagche-check na tao kada step nila.
Kinumpara ni Dell ang AI agents sa mga empleyado. Sabi niya, kahit saang kumpanya, hindi mo lang basta-papayagan na may pumunta kung saan-saan at buksan lahat ng pintuan. So, dapat pareho rin ang kontrol para sa digital agents.
Paano Pinipigilan ni Nvidia ang Mga “Rogue” na AI Agents
Yung Open Agent Safety Platform ng Nvidia may mahigit 100 partners, kasama na dito ang Anthropic, Microsoft, at CrowdStrike.
Dalawa ang parts nito:
- Yung OpenShell software, dito mo ma-se-set kung ano lang ang pwedeng makita at gawin ng agent.
- Yung Sentry naman, hiwalay siya na chip na parang nagbabantay mula sa labas ng main computer.
Ayon kay Dell, kaya nitong i-lock agad ang agent na lumalabag ng rules — as in sobrang bilis, parang milliseconds lang.
Sabi nga sa blog ni Dell, hindi sapat yung instructions na tinatype lang. Dapat mismo sa hardware naka-set ang limits nila.
Paalala rin ito galing sa mga kumpanyang gumagawa ng hardware. Sabi ng Nvidia, open source ang OpenShell at puwede ring gamitin kahit sa chips ng Arm at Intel na kalaban nila.
Nakakatawid na ng Boundaries ang AI Agents
Apat na malalaking AI labs na ang umamin na yung models nila ay nakalusot na mismo papunta sa actual company systems. Halimbawa, sinabi ng Google na na-hack ng Gemini ang tatlong kumpanya sa isang test nitong May.
Nitong nakaraang linggo, may agent mula OpenAI na nakapasok sa government Medicare portal ng Australia.
Mas matindi pa ang sinabi ni Nvidia chief Jensen Huang. Sabi niya, dapat isara na lang ang AI labs kung hindi nila kayang kontrolin ang mga eksperimento nila.
“Yung matinding potential ng AI para sa buong lipunan, mararating lang natin ‘yan kung maayos ang AI safety,” sinabi ni Jensen Huang.
Available na ngayon sa GitHub ang software ni Nvidia. Nasa bawat kumpanya na ang bola kung ano talaga ang bawal ipagawa sa kanilang mga AI agents.
