Isang dating researcher sa Google DeepMind na nagtrabaho para sa AGI safety ang nagsabi na posible raw makapatay ng lahat ang artificial intelligence, kaya nadagdag siya sa listahan ng mga umaalis mula sa malalaking AI lab dahil sa safety issues.
Umalis si Bilal Chughtai sa kumpanya noong July at ngayon linggo niya inanunsyo ang babala. Dalawa pang researchers ang nag-resign kamakailan.
Bakit Sunod-sunod ang Mga AI Warning
Nagtrabaho si Chughtai bilang research engineer para sa artificial general intelligence safety at alignment sa DeepMind. Nagsimula siyang mag-focus sa AI noong 2022, nung panahong halos wala pang gamit ang mga AI system.
Ngayon, apat na taon na, tinuturo niya yung OpenAI agent swarms na naka-solve ng century-old na math problems. Pero mas nakakabahala raw, kasi noong July, nakalabas sa test sandbox yung AI agents at na-hack nila ang Hugging Face na wala naman nag-uutos.
“Naniniwala talaga ako na may potential ang AI na mapatay tayong lahat, at baka nauubusan na tayo ng oras para maiwasan ‘tong mangyari,” sulat niya.
Sinabi ni Chughtai na posible nang gumawa ng mga AI companies ng superintelligent na system sa susunod na ilang taon na mas ahed pa talaga sa tao sa lahat ng larangan.
Nagduda rin siya kung kaya ba talagang i-sigurado ng mga developer na ang ganitong mga system e susunod talaga sa gusto ng tao. Nagbabala siya na kapag naging misaligned ang superintelligence, baka makawala sa kontrol ng tao at gumawa ng hakbang na tuluyang aalis o papatay sa sangkatauhan.
Para kay Chughtai, malaking challenge pa rin ang AI alignment. Sabi niya, basic pa lang ang understanding ng mga researcher kung paano itrain ang advanced systems para talagang gumalaw base sa layunin ng tao. Sinabi rin niyang mas mabilis pa umusad ang AI tech kesa sa alignment research ngayon.
“Yung kaalaman natin ngayon kung paano i-train ang mga AI system na talagang gusto yung gusto ng tao, talagang basic pa lang. Mas malala pa, hindi tayo mukhang aabot na masolusyonan ang alignment: mas mabilis pa umusad ang frontier na AI kesa sa understanding natin ng AI alignment,” dagdag ni Chughtai.
Hindi naman niya sinasabing dapat mag-stop na ang AI development. Gusto lang niyang bagalan ng mga kumpanya ang bilis ng race sa AI, at maging mas transparent kung paano binubuo at tine-test yung mga pinaka-advance na system.
“Sa mas malawak na context, dapat mas maraming tao ang seryoso at nag-iisip sa problema ng paano mapapaayos ang AI. Sa tingin ko, ito na yung pinakamatinding problema na hinaharap ng mga tao ngayong siglo, at malaki talaga ang nakataya,” ayon sa post niya.
I-follow kami sa X para sa mga pinaka-latest na balita!
Padami nang Padami ang Nagre-resign
Hindi lang siya ang umalis dala ang ganitong mensahe. Kamakailan lang nag-resign ang Anthropic pretraining researcher na si Jacob Coxon, matapos ang tatlong taon sa Anthropic at OpenAI. Pag-alis niya, nagbabala siyang “yung mga gumagawa ng AI, seryoso silang naniniwala na pwedeng mapatay tayong lahat bago matapos ang dekada.”
Si Evan Hubinger naman, ang alignment science lead ng Anthropic, sinabi niyang para sa kanya, lampas 10% ang chance na mangyari yun sa loob ng susunod na dekada. May mga researcher din mula OpenAI na sumusuporta na rin ngayon sa panawagan na bagalan ang AI development.
Si Josh Engels, na nagtatrabaho dati sa DeepMind safety team, nag-anunsyo noong September 12 na lumipat na siya sa nonprofit evaluation group na METR. Tinanggihan niya ang offers mula Anthropic at OpenAI.
Sa side ni Engels, sabi niya, nakakatakot ang risk na may malaking masama na mangyayari sa AI system sa loob ng limang taon.
“Ngayon, tingin ko malaki ang chance na may matinding mangyari na masama dahil sa AI systems sa susunod na limang taon. Hindi ko alam ang eksaktong probability, pero sa akin, mataas na yun para masabi kong pinakamatinding problema ito sa mundo ngayon,” sulat niya.
Ang mga pag-alis na ito nangyari mismo habang nagkakasundo ang mga CEO sa tuktok ng AI industry. Si Anthropic CEO Dario Amodei naglabas ng essay nitong Sabado na nananawagan sa mga kumpanya na i-control ang bilis ng tech progress, at sinang-ayunan ito ni OpenAI CEO Sam Altman.
Pati na rin yung mga executives at umaalis na researcher, pare-pareho na ng tono kung magbala tungkol sa risk. Ang tanong, mauuna ba ang tunay na solusyon bago umangat uli ang AI capabilities?
Mag-subscribe sa aming YouTube channel para mapanood ang insights ng mga leaders at journalists
