Pumasok si Mark Zuckerberg sa mainit na usapan tungkol sa posibilidad na magdulot ng extinction ang artificial intelligence (AI) ngayong linggo. Sabi niya, pinipilit na raw ng market pressure ang mga AI labs na unahin ang safety kahit wala pang dagdag na panuntunan mula sa gobyerno.
Ilang linggo matapos magbigay ng babala tungkol sa superintelligence, nag-post ulit ang CEO ng Meta (META). Sabi niya, dapat magbigay ng kapangyarihan sa bawat user ang teknolohiya — hindi lang kontrol ng iilang malalaking kumpanya.
Isang Debate na Hindi Naman Sinimulan ni Zuckerberg
Sa August essay na ‘yon, sinabi niya na hindi dapat ma-monopolize ng isang kumpanya o gobyerno ang mga superintelligent system. Mas gusto niya na widely distributed ito para maraming makinabang.
Timing ang post niya dahil kasalukuyang abala ang Washington sa pagresponde sa mga babala mismo mula sa AI industry. Nag-resign si Anthropic researcher Jacob Coxon ngayong buwan dahilan sa akusasyon na minamadali umano ng employer niya at ng OpenAI ang paglabas ng self-improving systems kahit kulang pa sa safety checks.
Mas pinatindi pa ng pag-alis ni Coxon ang panawagang ipagbawal ang superintelligence agad-agad. Sina Senator Bernie Sanders at Representative Greg Casar ang nangunguna sa effort na ‘yan sa Congress.
Hiwalay pa rito, tinantya ni OpenAI safety researcher Marcus Williams na ang tsansa ng human extinction ay nasa 70% sa loob ng tatlong taon. Sabi pa niya na mababawasan ‘yung tsansa kung babagalan ng mga AI lab ang development o makikialam ang mga regulator.
Ano ba Talaga ang Sabi ni Zuckerberg?
Naka-focus si Zuckerberg na alignment — o pagkakaangkop ng AI sa pangangailangan ng users — at hindi restriction, ang magtatakda kung aling AI agents ang tatagal at alin ang mawawala. Sabi pa niya, napakahalaga na magtiwala ang tao sa AI — yan na raw ang bagong “most valuable feature” sa industriya.
Ayaw ng mga tao gumamit ng AI agents na ‘di akma sa gusto nila o hindi sumusunod sa utos nila. Kaya pino-push talaga ng market ang mga AI lab na gawing mas aligned o “tugma” ang mga model nila para piliin ng users.
Sa isang post sa X, ipinahayag ni Mark Zuckerberg ang mga pananaw na ito.
Binigyang-diin din niya ang record ng Meta tungkol sa safety. Pinatagal nila ang pag-release ng Muse personal assistant, dapat noon pang April, dahil gusto nilang siguraduhin ang security. Sabi ni Zuckerberg, kusa nila itong ginawa, hindi dahil pinilit ng mga panuntunan ng buong industriya.
Sabi rin niya, gumagamit na ang Meta Superintelligence Labs (MSL) ng independent evaluators para ireview ang trabaho nila. Nag-suggest si Zuckerberg na pwedeng sundan ng ibang AI labs ang ganitong labas na review system.
Dagdag pa ng founder ng Meta, na ang mas malaking bahagi ng compute resources ng kumpanya ay ginagamit nila para tumulong mismo sa tao, hindi para lang sa self-improvement ng AI. Sa ganitong paraan, mas safe pa rin ang development.
Pero kahit ganito ang argument niya, hindi pa rin tapos ang core issue. Gusto ng mga kritiko na magkaroon ng malinaw at enforceable na limitasyon sa self-improving AI, habang ang Meta ay umaasa sa competition at self-interest ng bawat AI lab.
Kung paano tatapusin o babalansehin ang diskusyon na ‘to, makakaapekto sigurado kung paano haharapin ng Congress ang push ni Zuckerberg na pabilisin ang AI releases sa mga susunod na buwan.
