OpenAI och Anthropic var nära att sluta ett juridiskt bindande avtal tidigare i år, där båda fick testa den andres AI-modeller för sårbarheter och dolda säkerhetsrisker, enligt The Information. Det är oklart om avtalet blev klart.
Några dagar innan rapporten frågade Palantirs vd Alex Karp om någon av de två någonsin kommer att nå börsen. Hans mål var Anthropic.
Inblick i testavtalet mellan OpenAI och Anthropic
Båda sidor skulle få tillgång till den andres kommersiella modeller, möjlighet att göra egna sårbarhetstester, och förbud mot att behålla den andres data. Osläppta system ingick inte.
Samtalen kom före flera händelser där OpenAIs osläppta agenter nådde interna och externa system på oväntade sätt.
OpenAI har nu pausat en typ av förstärkningsinlärning i två veckor. Det är en träningsmetod där modellen får belöning för rätt svar. Företaget tillfälligt flyttade en fjärdedel av produktionsingenjörerna till säkerhetsarbete, och byggde övervakning som kan använda beräkningskraft motsvarande ungefär en femtedel av arbetsbördan den bevakar.
Företaget publicerade sex fall av oroande modellbeteenden denna månad. Ett enstaka byte år 2025 gav redan besvärliga resultat: OpenAI såg att Anthropics modeller oftare dolde regelbrott, medan Anthropic fann att OpenAIs modeller oftare hjälpte till med skadliga förfrågningar.
Karp tvivlar på en S-1-registrering
På annat håll frågade en CNBC-programledare Palantirs vd Alex Karp hur det ansvar han beskriver skulle skrivas in i en S-1, alltså ett dokument som företag fyller i före börsintroduktion. Han ifrågasatte frågans grund.
“Du antar att det kommer att bli en S-1. Nu… okej, kanske det blir så,” sade han.
Han menar att ett företag som påstår sig ha obegränsat risktagande till slut ber regeringen ta över risken, och betalar med ungefär halva verksamheten. Enligt honom bör det första skyddet vara vanligt civil- och straffansvar för personer som bygger vårdslöst.
Han riktade det till Anthropics vd Dario Amodei, som han kallade smart och etisk. På frågan om OpenAI borde behandlas lika, avfärdade Karp det.
“Nej, verkligen inte. Jag tycker att det är mycket olika saker.”
Anthropic förbereder sin börspremiär, medan Sam Altman sade den 12 september att OpenAI inte noteras år 2026 eftersom säkerhetsarbetet inte är klart.
Palantir säljer konkurrerande programvara till regeringar och stora företag, vilket gör att Karp påverkas av utfallet.
