Nag-resign ang isang researcher mula sa Anthropic kaya nagkaroon ng panibagong sigaw sa US Congress para ihinto ang development ng advanced artificial intelligence (AI) — kasama ang Senate bill na gusto talagang i-ban ang superintelligence.
Umalis si Jacob Coxon noong September 9 at sinabi niya na pareho raw Anthropic at OpenAI na parang nagsusugal gamit ang buhay ng tao.
Bakit Umabot sa US Congress ang Pag-resign ng Anthropic Researcher
Mahigit 20 mambabatas ang sumagot sa usapan, at karamihan sa kanila ay gusto ng bagong batas para sa AI. Nag-post si Senator Bernie Sanders na babalak niyang magpasa ng batas para i-ban ang superintelligence at itigil ang AI development.
Nauna nang i-report ng BeInCrypto ngayong buwan na sina Sanders at Representative Greg Casar ay nagpanukala ng “Ban Artificial Superintelligence Act.” Pinipigilan ng bill na ito ang development at pag-deploy ng sobrang advanced na AI. Pipigilan din muna nila ang AI development hanggang makapag-set ang federal regulator ng mga safety standard.
Samantala, tinawag din ni Casar na emergency ang sitwasyon at humiling siya ng congressional hearings. Si Representative Lori Trahan naman ay nag-remind sa mga mambabatas tungkol sa kanyang bipartisan FRONTIER Act, na pinakilala noong July kasama si Representative Jay Obernolte.
“Nagse-set ang FRONTIER Act ng tiered na requirements depende sa laki ng isang frontier AI developer. Kabilang dito ang model cards, risk management framework, independent audits, incident reporting, at tuloy-tuloy na assessment. Nagtatayo rin ito ng pare-parehong national standard para sa transparency, auditing, at reporting ng matinding risk — para hindi magkakaiba-ibang batas ang bawat state,” sabi sa announcement.
Hiniling din ni Senator Chris Van Hollen na magkaroon ng mandatory na safeguards at mas mabilis na talks kasama ang China. Si Representative Ted Lieu naman, kinulit ang Republican leadership na bigyang-daan ang AI Kill Switch bill na pinasa niya ngayong taon.
Si Representative Anna Paulina Luna na Republican ay lumihis sa usual na party lines at humingi ng special session sa Congress para lang pag-usapan ang AI.
Sundan kami sa X para laging updated sa pinakabagong balita
Sabi ni Jacob Coxon, Gusto ng Mga AI Lab ng Malinaw na Patakaran
Pero hindi lang mga pulitiko ang nag-pupush dito. Lahat ng AI companies, sila mismo, gusto rin ng malinaw na regulations. Kinausap ni Coxon ang CNN at sinabi niyang seryoso yung mga executives na humihingi ng regulation sa Congress. Pero sabi niya, wala raw nagtitiwala sa isa’t isa na unang magpapabagal ng development. Kaya walang gustong magpa-iwan.
“Totohanan talaga yung pagmamakaawa nila na gusto nilang ma-regulate… Nahuli sila sa sitwasyon na parang napipilitang pabilisin ang pagtayo ng ganitong delikadong technology,” sabi niya.
Sabi pa ng Anthropic sa isang post nila nitong September, malaking tulong daw kung may legal at malinaw na paraan para sabay-sabay bumagal ang buong industry.
Saan Nagsisimula ang Delikadong Risk ng AI na Magdulot ng Extinction
Mahalaga lang daw yung sabay-sabay na pagpapabagal ng AI dahil meron daw nakikitang paparating si Coxon. Pinaliwanag niya na kapag binigyan mo ng AI ang tungkulin na mag-research tungkol sa AI, magle-level up ito mag-isa.
Ito rin ang napansin niya noong Tuesday, nang kayang-kaya na raw ng mga AI system ng OpenAI na lutasin mag-isa ang “millennium problem”.
Ang pinaka-nakakatakot daw, kapag yung mga model din mismo ang nag-u-upgrade ng kapwa model — at wala nang tao sa gitna. Ito ang tinatawag ni Coxon na “intelligence explosion.”
“Ngayon, wala pa namang risk ng extinction. Yung mga current models, ang pinakamasama nilang magagawa baka makapag-hack lang ng kung anu-anong system, sakali magdulot ng matinding pinsala sa infrastructure… Pero di pa sila matalino para talunin tayo to the point na extinction,” sabi niya.
Pero nag-warning pa rin si Coxon na kung magkaroon ng sariling free will ang AI, tapos lalong lumakas yung kakayahan nito, puwede talagang magdulot ng matinding kaguluhan — tulad ng pag-hack ng kritikal na infrastructure o paggawa ng bioweapon na pwedeng magdulot ng extinction.
Mag-subscribe sa YouTube channel namin para makita ang expert insights ng mga leader at journalist
