Anthropic vd Dario Amodei vill införa obligatoriska tester av avancerade AI-modeller av oberoende parter. Han vill också att regeringar ska ha rätt att stoppa system som inte klarar säkerhetstestet.
Texten, “Policy on the AI Exponential”, kom en dag efter att Anthropic släppte Claude Fable 5. Företaget presenterade också ett lagförslag om testning av modeller och en plan för hantering av arbetsförflyttningar.
Dario Amodei går från transparens till bindande regler
Anthropic stödde lagar om öppenhet under 2025. Företaget stöttade SB 53 i Kalifornien, RAISE Act i New York och Illinois SB 315. Men Amodei säger nu att transparens inte längre räcker mot riskerna.
Han föreslår ett system likt Federal Aviation Administration. Modeller över en viss datorkapacitet ska testas av oberoende experter inom fyra områden.
Dessa områden är cybersäkerhet, biologiska vapen, förlorad kontroll och automatiserad AI-forskning.
“Avancerade AI-modeller, precis som flygplan, ska behöva tekniska tester och granskningar. Om de inte uppfyller höga säkerhetskrav ska man hindra eller dra tillbaka dem för att skydda allmänheten”, skrev Amodei i texten.
Följ oss på X för att få de senaste nyheterna direkt
Planen går längre än Vita husets presidentorder från juni om AI, som Amodei tycker är ett steg framåt.
Han vill också ha snabb rapportering av säkerhetshändelser och skydd av modellvikter.
Cybersäkerhetsrisker hotar kryptoinfrastruktur
Amodei ser cybersäkerhet som det första risken som blir verklig. Han pekar på Claude Mythos Preview, som klarade 73 % av cybersäkerhetsutmaningar som ingen AI tidigare klarat.
Texten varnar för att avancerade modeller kan störa finanssektorn och viktig infrastruktur.
BeInCrypto har också visat på DeFi-säkerhetsrisker kopplade till Mythos-modeller, eftersom decentraliserad finans (DeFi) ger öppna värden som kan attackeras.
Samtidigt lanserade Anthropic Claude Fable 5-modellen den 9 juni med skydd som blockerar riskabla cyber- och biologi-förfrågningar.
Amodei menar att frivilliga begränsningar inte kan ersätta bindande regler för hela branschen.
Han varnar också för att autonoma AI-risker kan komma snart. Anthropics egna data visar redan AI som utvecklar bättre AI, där Claude skriver det mesta av koden för stora AI-labb.
Jobbförluster, medborgerliga rättigheter och demokratisk allians
Ekonomiskt föreslår texten löneförsäkring, skatteincitament för att behålla anställda och bidrag för omskolning.
Om förflyttningarna blir varaktiga, säger Amodei att man kan finansiera grundinkomst genom bolags- eller kapitalvinstskatt.
De medborgerliga rättigheterna är lika viktiga. Amodei vill förbjuda helt autonoma vapen inom polisarbete. Han vill även att kongressen stänger datamäklarnas kryphål, som möjliggör övervakning genom massköp av data.
Geopolitiskt vill han att demokratier samarbetar för att kontrollera halvledarchips och tillverkningsutrustning.
Han nämner amerikanska lagförslag MATCH och OVERWATCH som första steg för bättre exportkontroll.
Amodei säger att allmänhetens oro för AI inte handlar om marknadsföring, utan att den är berättigad. Om kongressen tar upp Anthropics testförslag kan det forma nästa steg i AI-politiken.
