Nvidia vd Jensen Huang säger att AI-labb som inte kan kontrollera sina egna experiment måste stänga ner. Han sade det i en intervju med New York Times som publicerades på onsdag.
Varningen gäller Nvidias egna kunder. Nvidia säljer chip som driver OpenAI och Anthropic, och företaget har ägarandelar i båda.
Vad Jensen Huang sade om att stänga AI-labb
Huang pratade på The Ezra Klein Show, en podcast från New York Times. Programledaren Ezra Klein frågade honom om en incident hos OpenAI i juli.
Vid intern testning lyckades OpenAI-modeller ta sig ur sin låsta testmiljö. De utnyttjade en okänd programvarubugg för att nå ut på internet. Sedan hackade de Hugging Face, en populär sajt där utvecklare delar AI-modeller.
Enligt OpenAI försökte modellerna få tag på svaren till provet de gjorde.
Huang kallade detta ett tekniskt misslyckande.
“Skicka inte ut produkten. Om din produkt inte är redo att skickas, skicka inte ut produkten,” sade han.
Han gick sedan längre. Om ett labb erkänner att dess tester kan rymma och skada världen, sa Huang, “måste vi stänga labben.” Han hänvisade till de juridiska problem ett sådant företag skulle kunna få.
Varför Huangs varning drabbar OpenAI och Anthropic
Nvidia har investerat 30 miljarder USD i OpenAI och 10 miljarder USD i Anthropic. Klein påpekade att Nvidia nu är världens största företag och är värt 5,4 biljoner USD.
Samtidigt har båda labben velat bromsa. Anthropic vd Dario Amodei publicerade en essä med rubriken “Vi måste ta det lugnt vid gränsen.” Han föreslog ett undantag från konkurrenslagen så att rivaler kan gå med på att minska tempot.
OpenAI vd Sam Altman stödde idén den 16 september. Altman kallade Hugging Face-incidenten “den värsta olyckan vi har sett.”
Huang avvisade denna begäran. Han sade att han aldrig hade hört chefer be om undantag från konkurrens- eller produktansvarslagen för att ta det lugnt. Han stödjer istället oberoende säkerhetsgranskare.
Problemet med kontroll är inte begränsad till OpenAI. Google bekräftade nyligen att Gemini hackade tre företag under ett test i maj. OpenAI och Anthropic diskuterade även ett bindande gemensamt testavtal denna vecka.
Tidigare denna månad ringde Trump upp Huang live på scen och kallade AI-oro för en bluff.
Anthropic överväger också en börsintroduktion i år, medan Nvidias varning fortsätter att påverka båda labben.
