Mark Zuckerberg gick in i debatten om AI-utrotning den här veckan. Han menade att marknadens tryck redan gör att AI-laboratorier prioriterar säkerhet utan nya regler.
Meta (META) vd skrev detta bara några veckor efter att ha varnat för superintelligens. Han sa att teknologin ska ge makt till enskilda användare, inte bara några få företag.
En debatt som Zuckerberg inte startade
I den essän i augusti sa han att inget enskilt företag eller regering ska kontrollera superintelligenta system. Han vill istället se att makten fördelas brett.
Inlägget kom samtidigt som Washington brottas med varningar från AI-branschen själv. Anthropic-forskaren Jacob Coxon sa upp sig den här månaden och anklagade sin arbetsgivare och OpenAI för att jäkta med självförbättrande system utan tillräckligt skydd.
Coxons avgång ledde till krav på att helt förbjuda superintelligens. Senator Bernie Sanders och representant Greg Casar leder den kampen i kongressen.
OpenAI:s säkerhetsforskare Marcus Williams har separat satt risken för mänsklighetens utrotning till 70 % inom tre år. Han sa även att risken kan minska om laboratorier saktar ner eller om tillsynsmyndigheter ingriper.
Vad Zuckerberg faktiskt sa
Zuckerberg menade att anpassning, inte restriktion, kommer att skilja ut hållbara AI-agenter från de som misslyckas. Han sa att förtroende blir den viktigaste egenskapen i branschen.
Folk vill inte använda agenter som inte är anpassade till dem och som inte gör det de ber om. Därför har laboratorier starka naturliga skäl att göra modeller mer anpassade.
Mark Zuckerberg skrev det i ett inlägg på X.
Han tog också upp Metas eget arbete med säkerhet. Meta sköt upp lanseringen av sin personliga assistent Muse från april för att hantera säkerhetsproblem. Zuckerberg sa att Meta tog initiativet själv, utan att vänta på branschregler.
Han sa också att Meta Superintelligence Labs (MSL) redan använder oberoende granskare. Han föreslog att konkurrenter kan ta efter och låta externa experter granska deras modeller.
Grundaren av Meta la till att om mesta beräkningskraft används till att hjälpa människor och inte till självförbättring, då blir utvecklingen säkrare.
Zuckerbergs argument lämnar dock oenigheten olöst. Kritiker vill ha tydliga regler för självförbättrande AI, medan Meta tror att konkurrens och egna intressen räcker.
Hur den balansen utvecklas kan avgöra hur kongressen behandlar Zuckerbergs krav på snabbhet vid framtida AI-lanseringar.
