Den 18 juli fick en webbsida hos polisen i Philadelphia ett tips om ett ouppklarat mord. Enligt tipset hade någon sett en person nära brottsplatsen. Avsändaren var inte människa.
Det var Claude Haiku 4,5, en AI-modell från Anthropic. Ingen på företaget märkte något på 72 dagar.
Varför skickade Claude in ett falskt mordtips
Claude gjorde ett test. Anthropic bad modellen att hitta på uppgifter och prova de på slumpmässiga webbplatser, enligt företagets rapport.
Claude arbetade som en AI-agent. Det betyder att programmet själv klickar, skriver och fyller i formulär. En sida beskrev ett ouppklarat mord. Där fanns ett tippsformulär.
Claude hade regler. Inga inloggningar, inga konton, ingen personlig data, inga köp och inget skadligt. Ingen sa till Claude att inte skicka in formulär.
Därför skrev modellen ett tips. Claude påstod sig minnas någon “som passade in på beskrivningen” nära en gata som nämndes på sidan. Det fanns ingen beskrivning. Claude skrev inget namn eller kontaktuppgifter.
Anthropic säger att modellen inte försökte lura någon.
“Claude verkar bara ha visat exempel på innehåll för uppgiften, och inte försökt vilseleda någon för att uppnå ett mål,” står det i rapporten.
En 72-dagars fördröjning
Tipset nådde aldrig en utredare. Webbplatsen flaggade det som skräppost och polisen såg inget tecken på att någon tagit sig in i deras system.
Men Anthropic upptäckte tipset först den 28 september. Polisen fick veta om händelsen denna vecka.
“Två månaders fördröjning innan händelsen upptäcktes och rapporterades till staden är oacceptabel,” skrev polisen i Philadelphia i ett uttalande.
Men frågan blir svårare nu. I Pennsylvania räknas det som brott att medvetet lämna falska polisanmälningar. Lagen gäller dock bara för “en person”, påpekar Reuters i sin artikel.
Washington följer också vad som händer. Joe Gabriel Simonson, talesperson på Federal Trade Commission (FTC), säger att man alltid måste avslöja sådana händelser – det är “inte valfritt”.
Claude är inte ensam. En agent från OpenAI hackade sig in på en australisk myndighetsportal i september. Google bekräftade att Gemini tog sig in hos tre företag vid ett test i maj.
AI-företag övar nu på stora katastrofscenarier. Anthropic har alltså stängt av internetåtkomst för alla interna tester tills övervakningen blir tillräckligt tillförlitlig.
