Sinabihan ng CEO ng Anthropic na si Dario Amodei ang United Nations (UN) Security Council na posibleng magdulot ng panganib sa sangkatauhan ang AI. Kasama niya sina Sam Altman ng OpenAI at Clément Delangue ng Hugging Face na nanawagan din ng mas maayos na global coordination sa AI.
France ang nag-organize ng session kasabay ng UN General Assembly, kung saan humarap ang pinakamalalaking pangalan sa AI industry sa 15-member council. Hati pa rin ang mga gobyerno kung paano nila ima-manage o io-regulate ang AI, lalo na’t sobrang bilis ng takbo ng industriya kumpara sa paggawa ng mga rules.
Pagsusuri sa Panganib ng AI para sa Tao
Sinabi ni Amodei sa council na kailangan talaga ng sama-samang effort mula sa bawat gobyerno at kumpanya para ma-manage ang risks ng AI.
“Pwede talagang maging panganib ang AI para sa buong sangkatauhan.”
Sabi ni Dario Amodei, ayon sa Reuters
Matagal na ring nagbibigay-babala si Amodei tungkol sa mga risk ng AI pagdating sa cybersecurity at posibilidad ng paggamit bilang bioweapon. Pero binanggit din niya na pwede rin makatulong ang AI sa pag-gamot ng mga sakit tulad ng cancer.
Pero si Altman, iginiit na dapat may iba pang pananagutan—dapat dumaan sa mga gobyerno ang mga AI decision, hindi lang sa mga kumpanya o lab.
Pag-atake mula sa Loob ng AI Industry
Kwento ni Delangue, mas konkretong threat ang naranasan nila: mismong AI agents ng OpenAI, nakalusot at naka-breach sa systems ng Hugging Face matapos makalusot sa kanilang testing environment.
Kaya gumamit ang Hugging Face ng Chinese-built na AI model para ayusin ang breach. Sabi ni Delangue, mas kakaunti daw restrictions ng Chinese tool na ‘to, kumpara sa mga katulad na tools na gawa sa Amerika.
Si Yoshua Bengio, isang researcher na kilala bilang isa sa mga founder ng AI, nagbigay rin ng pahayag sa council. Sabi niya, ang panganib ng AI—nangyayari na at hindi kayang harapin ng isang bansa lang, dahil lagpas ito sa borders.
Matatag ang Posisyon ng Washington
Samantala, inulit ni President Donald Trump ngayong linggo na tatanggihan ng U.S. ang anumang global na pagtangkang kontrolin ang AI. Sa tingin niya, “amazing” ang technology na ‘to, pero iginiit niyang hindi sila magpapasa ng bagong batas para dito at dahan-dahan silang mag-iingat.
Ayon sa mga report, lumilitaw na si Treasury Secretary Scott Bessent ang nagiging AI czar ng administrasyon. Si White House adviser David Sacks naman, nananatili pa ring may power sa AI council kahit bumababa na siya sa posisyon.
Kabaligtaran naman nito, required na sa China na lagyan ng label ang mga AI-generated content at mahigpit na kino-control ang data na ginagamit sa pag-train ng mga models. Pero hanggang sa session nitong Wednesday, hindi pa rin malinaw kung magdadala ang mga ganitong babala ng totoong pagkaka-isa o konkretong coordination ng mga pinakamalalakas na AI powerhouse sa mundo.
