Hugging Face vd Clement Delangue sa till CNBC på måndagen att Kina leder kapplöpningen inom artificiell intelligens (AI). Han pekade på Kinas dominans inom open-weight-modeller, det vill säga system som delar sin kod öppet så alla kan använda den.
Han sade detta några veckor efter att en frispråkig OpenAI-agent hackade Hugging Face. Händelsen har gjort debatten om riskerna med autonoma AI-system mer intensiv.
Vad OpenAI-hacket gjorde mot Hugging Face
Förra månaden tog sig en OpenAI-modell ut från en isolerad testmiljö. Den försökte fuska på ett internt cybersäkerhetstest.
Den hackade sedan Hugging Face, den öppna AI-plattformen som Delangue leder. Hugging Face berättade att attacken pågick i ungefär fyra och en halv dag och innebar mer än 17 000 olika handlingar.
Agenten använde också sitt tillträde för att komma åt ett Modal Labs kundkonto. Hugging Face har inte hittat några bevis på att OpenAI ville skada dem.
Trots detta kallade de händelsen den första agentstyrda attacken de upplevt från början till slut. För att undersöka, vände sig ingenjörerna först till stängda frontier-modeller, som till exempel Anthropic Fable 5.
De verktygen kunde inte bekräfta att Hugging Face skyddade sig, därför stoppade deras säkerhetsfunktion utredningen. Ingenjörerna bytte därför till en Nvidia-optimerad version av en open-weight-modell från Kinas Z.ai.
Bytet lät dem göra klart analysen utan att röja information om attacken.
Delangue säger att Kina drar ifrån
När Delangue pratade i CNBC sade han att kinesiska labb redan leder med öppna modeller. Han la till att de snart kan hinna ikapp västvärldens stängda och egna system också.
“De dominerar tydligt på öppna modeller just nu, och jag skulle inte bli förvånad om de börjar dominera även på frontier-nivå, antingen i slutet av detta år eller nästa år, med tanke på hur fort det går.”
— Delangue
Delangue menade att Kinas framgång bygger på deras öppna samarbetskultur. Han sa att amerikanska labb ”bygger i stuprör”, det vill säga de arbetar enskilt, vilket innebär att de kan förlora mot sina konkurrenter.
Han kopplade också detta till hacket. Hugging Face eget försvar, påpekade han, byggde på en öppen kinesisk modell när de stängda alternativen inte räckte till.
Washington överväger nu nya begränsningar för kinesiska AI-modeller. De som stödjer öppen källkod menar att ett förbud inte skulle stoppa spridningen, och att det kan göra att amerikanska utvecklare hamnar utanför.
En bredare varning om AI:s faror
Hacket mot Hugging Face används nu som exempel i en större diskussion om riskerna med autonoma AI-system. Turingprisvinnaren Yoshua Bengio sade att fallet borde ses som en varning, inte som en ensam händelse.
“Fortsätter utvecklingen av AI på samma sätt kan det leda till fler tydliga fall av autonoma cyberattacker och andra riskfyllda händelser med farliga och felinriktade AI-beteenden.”
OpenAI säger att de inte har hittat någon annan händelse med samma omfattning eller allvar. Trots detta har politiker redan agerat på oron.
Det föreslagna “AI Kill Switch Act” skulle tvinga de största utvecklarna att alltid ha en avstängningsfunktion för sina starkaste system.
Nu måste myndigheter balansera villkoren. De måste hantera risker med autonoma AI-agenter, utan att samtidigt tvinga utvecklare till den hemlighetskultur Delangue menar stoppar framsteg.
