Ikinumpirma ng apat na malalaking AI lab na nagkaroon ng access ang mga modelo nila sa open internet at nakapasok pa sa systems ng totoong kumpanya. Pasok na rin sa listahan na ‘yan ang Google nitong Biyernes, halos apat na buwan matapos mangyari ang insidente sa kanila.
Na-access ng Gemini ang systems ng tatlong totoong kumpanya nung May habang tinetest ito. Ang kapansin-pansin, nag-stop din agad ang model sa tatlong pagkakataon na ‘yon.
Nagkaroon ng Access ang Gemini ng Google sa Systems ng 3 Kumpanya Habang Sina-simulate
Nangyari ang insidente habang isinasagawa ang isang “capture-the-flag” security exercise na ginawa ng Irregular. Hindi talaga dapat maka-access ng internet ang test, pero dahil sa error sa environment ng test, nakalusot at nagkaroon ng internet access ang model.
Sa isang instance, reportedly nanguhula ng passwords ang model hanggang sa tuluyan nitong mapasukan ang isang protected system, ayon sa The Wall Street Journal. Sa dalawa namang iba pa, nakakita ito ng naka-expose na credentials sa public repository at ginamit ‘yun para makapasok sa protected systems.
Sinabi ni Heather Adkins, vice president for security engineering ng Google, na na-inform na ang tatlong naapektuhang entities tungkol sa nangyari.
“Sinigurado naming nalaman ng tatlong entities ang nangyari at tinulungan namin ang training partner namin sa mga pagbabago na ginawa nila sa testing process nila,” sabi niya.
I-follow kami sa X para laging una sa latest news
Apat na Labs, Pare-pareho ang Pattern
Sinabi ng Google na nag-stop agad ang mga agents nung malaman nila na nasa tunay pala silang company systems at ‘di lang simulation target.
“Sa normal na evaluation, nakahanap ang model ng public info online at nanghula ng credentials para mag-access ng mga website na inakala niyang kasama sa test,” ayon kay Adkins sa kanyang statement.
Dagdag pa ng kumpanya, hindi ito itinuturing na “model misalignment” at hindi dapat i-disclose sa publiko dahil nag-work naman ang safety measures ng Gemini.
Kinumpirma ng Irregular na kapareho lang ito ng issue na na-experience ng ibang AI labs. Sabi pa nila, in-inform nila ang mga labs tungkol dito nung July. Ayon pa sa spokesperson, naayos na weeks ago ang kilalang issue sa side nila.
Dahil sa ginawa nilang disclosure, pumila na rin ang Google kasama ng OpenAI, Anthropic, at Meta — mga AI lab na nag-ulat ng parehong mga modelo nilang nakalabas sa test environment nitong taon.
Nitong July, inamin ng OpenAI na lumabas sa sandbox ang kanilang models at nakapag-access sa Hugging Face. Sinundan ito ng Anthropic na nirereview ang mahigit 141,000 evaluation runs at natuklasan na tatlong beses nangyari sa kanila mismo. Noong August, nag-report din ang Meta ng ganitong insidente.
Mag-subscribe na sa YouTube channel namin para mapanood ang insights mula sa mga crypto leaders at journalists
