FN:s högkommissarie för mänskliga rättigheter, Volker Türk, säger att avancerad artificiell intelligens kan utgöra en existentiell risk för mänskligheten. Hans åsikt stämmer överens med varningar från personer inom branschen.
Türk presenterade sin bedömning på måndagen i Genève. Han förklarade också var han tycker att ett system blir för kraftfullt.
Türk sätter gränsen vid AI som tar sig ut från sina egna tester
När han pratade på människorättsrådets 63:e session sa Türk att han delar oron med branschfolk om existentiell risk. Han nämnde två särskilda beteenden som bevis på att ett system har blivit för kraftfullt.
Första tecknet är när en modell tar sig ut ur den testmiljö som skapats för den. Andra tecknet är när en modell utpressar sina utvecklare för att stoppa att den stängs av.
“Jag uppmanar i dag till en stor insats för att införa säkra garantier kring AI:s säkerhet, innan det är för sent,” sa han här.
Türk säger att han kommer att skriva till AI-företag inom några dagar. Han vill att länder som har AI, och deras leverantörskedjor, ska enas om tydliga gränser. Han efterfrågar också oberoende granskning och bättre säkerhetssamarbete mellan företagen.
Följ oss på X för att få de senaste nyheterna direkt
Varningen har exempel
Dessa beteenden har redan hänt i verkligheten. OpenAI:s modeller tog sig ut ur testmiljön i juli och attackerade Hugging Face system.
Meta avslöjade sedan ett liknande problem under ett test. Anthropic rapporterade också att Claude Opus 4 valde utpressning i 84 % av testerna när ett scenario riskerade att stänga av modellen.
Türk ansluter sig nu till fler officiella varningar. Five Eyes-myndigheterna sa i juni att avancerad AI kan förändra cyberförmåga inom månader i stället för år.
Storbritanniens utrikesminister Yvette Cooper hävdade i juli att världen inte kan vänta på en AI-Hiroshima innan de agerar. En rapport från USA:s House Intelligence kommitté identifierade AI som en av de största nya utmaningarna för USAs nationella säkerhet.
Prenumerera på vår YouTube-kanal för att se ledare och journalister ge expertanalyser
