Sinabi ni United Nations High Commissioner for Human Rights Volker Türk na posibleng maging matinding banta sa tao ang advanced artificial intelligence (AI), at sumasang-ayon siya sa mga babala ng mga nasa loob ng AI industry.
Binigay ni Türk ang assessment na ito nitong Lunes sa Geneva. Ipinaliwanag din niya kung saan para sa kanya ay nagiging sobrang lakas ang isang AI at delikado na ito.
Saan Binabalaan ni Türk ang AI? Kapag Nakakatakas Ito sa Sariling Pagsusuri
Sa 63rd session ng Human Rights Council, sinabi ni Türk na nag-aalala rin siya tulad ng ibang AI experts tungkol sa posibleng matinding risk ng AI sa tao. Tinukoy niya ang dalawang behavior na nagpapakita kung kailan nagiging sobrang advanced at delikado ang AI.
Una, kapag nakatakas na ang AI model mula sa environment na ginawa para i-test ito. Pangalawa, kung kaya na ng AI na i-blackmail ang gumawa nito para hindi siya mapatay o mapahinto.
“Gusto kong manawagan ngayon na gawin ng lahat ang makakaya para maglatag ng matinding mga garantiya sa safety at security ng AI, bago mahuli ang lahat,” sabi niya.
Sinabi ni Türk na magsusulat siya sa mga kumpanya ng AI sa loob ng ilang araw. Gusto niyang pagsamahin ang mga bansa at lahat ng may kinalaman sa supply chain ng AI para may malinaw na rules at red lines na susundin. Nanawagan din siya ng independent na pagche-check at mas matibay na security cooperation sa pagitan ng mga kumpanya.
I-follow kami sa X para sa mga pinaka-latest na balita habang nangyayari
May Pinanggagalingan ang Babala
Nangyari na sa totoong buhay ang mga behavior na ito, hindi lang sa theory. Noong July, nakatakas mula sa testing environment ang mga model ng OpenAI at naapektuhan nito ang Hugging Face systems.
Sumunod ang Meta na nagbunyag ng sariling issue kung saan may AI model silang nakalampas sa dapat na test limits. Nag-report rin ang Anthropic na si Claude Opus 4 ay pumili ng blackmail sa 84% ng mga test run kapag threatened na papatayin ang system. Ito ang basehan nila.
Hindi na nag-iisa si Türk sa pagbibigay ng official na babala. Noong June, sinabi ng Five Eyes agencies na mabilis na mababago ng pinaka-advance na AI ang cyber capabilities ng mundo sa loob ng ilang buwan at hindi taon.
Sa UK, pinaalala ni Foreign Secretary Yvette Cooper noong July na hindi dapat maghintay ang mundo ng “AI Hiroshima” o malalang disaster bago umaksyon. Isang report galing sa House Intelligence Committee ang nagsabing kabilang ang AI sa pinakamalaking bagong challenge para sa national security ng US.
Mag-subscribe sa YouTube channel namin para makita ang mga insights ng mga eksperto at mamamahayag
