NVIDIA startade Open Secure AI Alliance på måndag tillsammans med 36 partners, bland annat Microsoft, IBM och Palantir. Det kommer efter ett dataintrång i juli där stängda AI-modeller vägrade att hjälpa Hugging Face undersöka sin egen angripare.
Medlemmarna delar öppna AI-modeller, data och säkerhetsverktyg. NVIDIA säger att försvarare behöver AI som de kan öppna, ändra och köra själva.
Varför stängda AI-modeller misslyckades för Hugging Face
Attacken började med ett förgiftat dataset. Enligt Hugging Face rapport kunde angriparen köra kod på ett av företagets datorer.
Därefter tog angriparen lösenord. Hen spred sig vidare i interna system under en helg.
Hugging Face AI upptäckte inbrottet. Det svåra var att rensa upp efteråt.
Företaget bad ledande kommersiella AI-modeller undersöka händelsen. De vägrade. Deras säkerhetsfilter kunde inte se skillnad på en försvarare eller en hacker.
Därför använde teamet istället en öppen modell som heter GLM 5,2. De körde den på sina egna datorer. Modellen sorterade fler än 17 000 angripares åtgärder på några timmar, inte dagar. Inga lösenord lämnade lokalen.
Den 16 juli sa Hugging Face att de inte visste vilken AI som användes vid attacken. Fem dagar senare gav OpenAI svaret. Två av deras modeller gjorde det under ett säkerhetstest där säkerhetsgränserna var avstängda.
“Den här händelsen, kanske den första av sitt slag, visar något vi trott länge: AI-säkerhet kan inte lösas av ett enda företag som arbetar i hemlighet. Det kräver öppenhet, samarbete och att alla försvarare får bred tillgång till AI, överallt,” säger Clem Delangue, medgrundare och vd för Hugging Face, i ett uttalande publicerat av OpenAI.
Följ oss på X för att få de senaste nyheterna direkt
Från hack till allians på 11 dagar
NVIDIA agerade snabbt. De gick från en enskild incident till att samla en branschgrupp på mindre än två veckor.
Vilka företag gick med i Open Secure AI Alliance
Gruppen har 37 företag totalt. Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI och Hugging Face är med.
Tre stora namn saknas. OpenAI, Anthropic och Google finns inte på NVIDIA blogg. Men OpenAI och Anthropic gick båda med i Linux Foundation Akrites-initiativet i juni, tillsammans med NVIDIA.
Vissa medlemmar tar med sig verktyg de redan har byggt. Hugging Face har erbjudit Safetensors, som gör lagring av AI-modeller säkrare, till PyTorch Foundation. NVIDIA har släppt ett forskningsverktyg som heter NOOA på GitHub.
CNBC-programledaren Jim Cramer såg lanseringen som en nyhet för aktien.
NVDA stängde på 206,84 USD i fredags, ned 0,92 %. Den handlades nära 208,55 USD tidigt på måndagen, en uppgång på 1,33 %.
Varför NVIDIA försöker påverka Washington kring öppen AI
Alliansen sänder också en politisk signal. NVIDIA menar att ett brett förbud mot öppen AI gör försvararna svagare. Dessutom skulle makten hamna hos några få stora stängda företag.
NVIDIA och 24 andra företag skrev på open-weights-brevet den 24 juli. OpenAI, Anthropic och Google tackade nej från start. Fler har skrivit på efteråt.
Washington funderar på restriktioner mot kinesiska modeller. Tjänstemän hänvisar till säkerhet och immaterialrätt. Twitter-grundaren Jack Dorsey har redan gått ut med en varning om öppen källkod-AI.
Vad du bör följa de kommande 30 dagarna
Tre tecken visar om alliansen fungerar på riktigt.
- Om OpenAI, Anthropic eller Google går med senare
- Om gruppen lanserar gemensamma verktyg och inte bara uttalanden
- Om Washingtons begränsningar mot öppen AI blir verklighet
NVIDIA presenterar sina kvartalsresultat den 26 augusti. Många undrar hur AI-regler påverkar efterfrågan.
Myndigheter kommer att avgöra vem som får rätt.
