En liten grupp obehöriga användare fick tillgång till Anthropics Claude Mythos Preview samma dag som företaget offentliggjorde den kontrollerade lanseringen, enligt Bloomberg.
Den här händelsen väcker frågor om Anthropics förmåga att kontrollera en modell som de ansåg var för farlig för allmänheten.
Hur en Discord-grupp fick tillgång till Mythos
Medlemmar i en privat Discord-kanal gissade på URL:en till Mythos genom att använda sina kunskaper om AI-modeller.
”Anthropic sa att Mythos var för farlig att släppa. Sedan lyckades fyra slumpmässiga personer i en Discord-grupp få tillgång första dagen genom att gissa URL:en…,” skrev Josh Kale, en populär användare på X.
De använde Anthropics namngivning som avslöjades i Mercor-läckan tre veckor tidigare, rapporterade Bloomberg med hänvisning till en källa med insyn.
En i gruppen hade dessutom giltiga utvärderingsuppgifter tack vare konsultjobb åt en leverantör till Anthropic. Kombinationen av dessa uppgifter och den gissade URL:en gav gruppen fortsatt tillgång.
Användarna har enligt uppgift regelbundet använt Mythos sen dess. De har däremot undvikit IT-säkerhetsrelaterade frågor och istället använt modellen till enkla uppgifter, som att bygga webbplatser.
Anthropic bekräftar att de undersöker rapporten, men säger att de inte hittat bevis för att åtkomsten gick utanför leverantörens miljö.
Anthropic har sagt att Mythos kan identifiera och utnyttja zero-day-sårbarheter i alla stora operativsystem och webbläsare.
Med Project Glasswing begränsade företaget tillgången till cirka 40 godkända organisationer, till exempel Apple, Amazon och Cisco, endast för försvarsinriktad säkerhetstestning.
Vita huset vill ge federala myndigheter tillgång trots Pentagons förbud
Läckan sker samtidigt som Vita huset arbetar för att ge civila federala myndigheter tillgång till Mythos. Budgetmyndigheten skickade ett mejl den 15 april med planer på en säkrare version av modellen.
Detta är en ändring från tidigare i år, då Pentagon kallade Anthropic för en “risk för leveranskedjan” eftersom företaget vägrade ta bort säkerhetsspärrar för militär användning.
”Vi kommer inte att låta NÅGOT företag bestämma hur vi fattar våra operativa beslut,” skrev försvarsdepartementets talesperson Sean Parnell på X.
En federal domare pausade senare det större förbudet efter en stämning från Anthropic.
Anthropic vd Dario Amodei mötte Vita huset den 17 april, och båda parter beskrev samtalen som produktiva.
NSA har redan använt Mythos för att skanna sårbarheter trots att Pentagon satt modellen på svartlistan, enligt Axios.
