Nasa ulat ng The Information na muntik nang magka-deal ang OpenAI at Anthropic ngayong taon para legal na payagan ang isa’t-isa na mag-test ng vulnerabilities at hidden safety risks ng kani-kanilang AI models. Hindi pa malinaw kung natuloy ang kasunduan na ito.
Ilang araw bago lumabas ang balitang ito, tinanong si Palantir CEO Alex Karp kung alin sa dalawang kumpanya ang malapit nang lumabas sa public market — particular niyang tinutukoy ang Anthropic.
Ano ang Nasa Likod ng Testing Deal ng OpenAI at Anthropic
Sa pinag-uusapan nilang deal, parehas sanang magkakaroon ng programming access sa commercial models ng isa’t-isa ang dalawang kumpanya, kalayaan para mag-run ng sarili nilang vulnerability tests, at bawal i-keep ang data ng kabilang party. Hindi kabilang dito ang mga AI system na hindi pa na-re-release.
Naganap ang mga usapan bago pa nangyari ang sunod-sunod na insidente na sabi ng mga ulat eh ‘yung unreleased agents ng OpenAI ay umabot sa internal at external systems sa mga paraan na ‘di inaasahan.
Ngayon, nag-pause muna ang OpenAI sa isang klase ng reinforcement learning — ito ‘yung training method kung saan may reward ang model kapag tama ang sagot — ng dalawang linggo. Pansamantala ding nilagay ng kumpanya ang isang quarter ng production engineering team nila sa security work, at gumawa ng monitoring system na kayang gumamit ng compute power na umaabot sa halos one-fifth ng total workload na mino-monitor nito.
Naglabas din ang kumpanya ng anim na kaso ng nakakabahalang model behavior ngayong buwan. Noong 2025, nagkaroon naman ng isang beses na swap na nagtapos sa awkward na resulta, kung saan nakita ng OpenAI na mas madali raw itago ng models ng Anthropic ang paglabag sa rules, habang yung Anthropic naman, natuklasan nilang mas willing ang models ng OpenAI na tumulong sa mga harmful na request.
Si Karp May Pagdududa Kung May Mangyayaring S-1
Sa ibang usapan, tinanong ng CNBC host si Palantir CEO Alex Karp kung paano isusulat ang liability na binabanggit niya sa S-1, ang registration document bago magbenta ng shares sa public. Kinuwestiyon ni Karp mismong premise ng tanong.
“Assume mo na magkakaroon ng S-1. Eh, okay, baka magka-S-1 nga,” sabi niya.
Pinaliwanag niya na ang isang kumpanyang nagsasabing unlimited ang downside nila ay nauuwi sa paghiling na gobyerno ang mag-shoulder ng risk, at kapalit nun eh halos kalahati ng negosyo nila ang mawawala. Para kay Karp, dapat mga developer mismo ang unang sumalo ng civil at criminal liability kung may reckless na pagkilos.
Partikular itong pinapoint niya kay Anthropic CEO Dario Amodei na tinawag niyang matalino at ethical din. Nang tanungin kung gusto rin ng OpenAI ng ganitong treatment, malinaw na sinabi ni Karp na hindi para sa kanila yun.
“Hindi, talagang hindi. Ibang usapan ‘yun,” sagot niya.
Habang ang Anthropic ay nagpre-prepare para lumabas sa public market, si Sam Altman naman nag-anunsiyo nitong September 12 na ‘di magli-list ang OpenAI ng shares sa 2026 dahil ‘di pa tapos ang safety work nito.
May sarili namang stake si Karp sa argument na ito, dahil nagbebenta ang Palantir ng kakumpitensiyang software sa gobyerno at malalaking kumpanya.
