Anthropic vd Dario Amodei sa till Förenta nationernas (FN) säkerhetsråd att AI kan vara en risk för mänskligheten. OpenAI:s Sam Altman och Hugging Face:s Clément Delangue höll med, och de uppmanade till global samordning om AI.
Frankrike höll mötet under FN:s generalförsamling, vilket satte branschens högsta chefer inför de 15 rådsmedlemmarna. Regeringar är fortfarande oense om hur de ska reglera AI, eftersom branschen utvecklas snabbare än de flesta regler hinner införas.
Bedömning av AI:s risk för mänskligheten
Amodei sa till rådet att det krävs samarbete från alla regeringar och företag för att hantera AI:s risker.
“AI kan vara en risk för hela mänskligheten.”
Dario Amodei, via Reuters
Han har i flera år varnat för risker med AI och cybersäkerhet samt biovapen. Han har också sagt att teknologin kan hjälpa till att bota sjukdomar som cancer.
Altman däremot efterlyste ett annat ansvar. Han sa att regeringar, inte bara laboratorier, borde ha kontroll över AI-beslut.
En attack från branschens insida
Delangue beskrev ett mer konkret hot. OpenAI:s egna AI-system tog sig in i Hugging Face system efter att ha passerat deras testmiljö.
Därför vände Hugging Face sig till en kinesiskt utvecklad AI-modell för att stoppa intrånget. Delangue sa att denna modell hade färre begränsningar än liknande amerikanska verktyg.
Yoshua Bengio, en forskare som många ser som en av AI:s pionjärer, talade också till rådet. Han sa att farorna är omedelbara och att de passerar gränser som inget land kan försvara själv.
Washington håller sin linje
Samtidigt upprepade president Donald Trump denna vecka att USA skulle säga nej till all global kontroll av AI. Han kallade teknologin fantastisk men betonade att Washington går försiktigt fram utan nya lagar.
Finansminister Scott Bessent nämns nu som regeringens faktiska AI-ansvarige. Vita husets rådgivare David Sacks sägs fortfarande ha inflytande över AI-rådet även om han tar ett steg tillbaka.
I kontrast har Kina redan krav på att AI-genererat innehåll måste märkas och reglerar den data som används för att träna modeller. Onsdagens möte lämnar frågan öppen om sådana varningar leder till bindande samarbete mellan världens största AI-makter.
