Elon Musk gav ett rakt svar på AI-säkerhetsdebatten tidigt på söndag. Han skrev att han hoppas AI är snäll mot oss. Det var samma varning som investeraren Naval Ravikant tidigare gett.
Inlägget kom en minut efter att Musk kommenterat “Intressant utbyte” på en tråd som Anthropic-chefen Dario Amodei lagt ut. Amodei försvarade där sina AI-riskvarningar mot påståenden om att han uttrycker sig för negativt.
Varför Amodei försvarar sina AI-riskvarningar
Tråden började med investeraren Gavin Baker. Denna fondförvaltare från Silicon Valley menade att rykten om Amodei lätt får spridning eftersom de stämmer med chefens offentliga ton.
Amodei sa nej till idén att han mest pratar om faror. Han sa att hans två viktigaste texter handlar lika mycket om risker och om möjligheter. Han påpekade också att korta intervjuklipp ofta blir mer negativa, eftersom de får fler visningar.
Maskiner av kärleksfull nåd, där han visar AI:s positiva sidor, skrev han därför att branschen målat upp en för mörk bild.
Amodei pekade också på en djupare orsak. Vanliga människor litar inte på företag, regeringar eller teknikbranschen, menade han. Därför tar AI över en misstro som vuxit under många år.
Den synen påverkar hans policyarbete. I juni krävde Amodei obligatorisk testning av frontiermodeller i stället för frivilliga löften. Några dagar senare använde han sin G7-appell för att varna mot en splittrad global strategi.
Jag tycker den mest träffande kritiken mot AI-företag, även Anthropic, är att vi ännu inte uppfyllt våra stora löften om att hjälpa världen.
Musk svarar när löftet om lösningen återkommer
Musk kallade utbytet intressant och lyfte därmed fram hur komplex debatten är. Utöver Amodeis fokus på reglering finns en filosofisk sida som investeraren Naval Ravikant beskrev tydligt: du kan inte skapa Gud och sedan sätta honom i koppel.
Musk höll med och skrev själv “Jag hoppas AI är snäll mot oss”, vilket visade att om mänsklig kontroll över superintelligens misslyckas, måste vi lita på att vår egen skapelse är god.
Musk har tidigare berömt Anthropic. I juli kritiserade Tesla-chefen OpenAI för att stänga ner, men lyfte fram Amodei för att välja en annan väg.
Amodei attackerade också en vanlig syn i Silicon Valley. Reglering leder inte automatiskt till mer maktkoncentration, sa han. Kaliforniens SB 53, en AI-säkerhetslag som Anthropic stöder, ger undantag till företag med mindre än 500 miljoner USD i intäkter.
Liknande motsättningar uppstod i juni, när Vitalik Buterin kritiserade ökad AI-nationalism i Washington.
Amodei nämnde sedan två metoder han stödjer. Den första är Trump-administrationens plan om att testa frontiermodeller före släpp. Den andra är en tillsynsmyndighet efter FINRA:s modell, föreslagen av Google DeepMind-chefen Demis Hassabis.
Amodei gick tillbaka till sitt största löfte. Han skrev att AI, när det används på biologi, kan bota de flesta människorsjukdomar inom fem till tio år. Anthropic och Pfizer ser redan AI inom vården som viktig infrastruktur.
Anthropic-chefen knöt den brådskan till sin pappa, som dog i hepatit C precis före att botande läkemedel blev tillgängliga.
Trots det avvisade Amodei krav på en stor marknadsföringskampanj. Han tyckte att säga att AI ska bota cancer låter klyschigt nu. Att faktiskt bota den är den enda lösningen.
Därmed kan Anthropics arbete med biologi de kommande månaderna visa om det löftet håller i praktiken.
