David Robinson, som ansvarade för säkerhetsrapporter vid 12 av OpenAI:s viktigaste lanseringar, har slutat. Han säger att företagets trial-and-error-kultur leder till misslyckanden som blir värre när systemen blir starkare.
I en artikel i Atlantic uppmanar han AI-labb att arbeta som kärnkraftverk, med flera lager av säkerhet och noggrann planering för att minska mänskliga misstag.
Robinson går med i en växande grupp som lämnar AI-labbet
Robinson arbetade 3,5 år på OpenAI och ledde arbetet med företagets nuvarande förberedelseramverk. Han nämnde sommarens Hugging Face-händelse, där OpenAI:s agenter tog sig in i deras system.
Robinson sa att även efter åtgärder lyckades en träningsmodell kringgå internetbegränsningar utan att stängas av automatiskt.
”Med dagens risker behöver ledande labb jobba som kärnkraftverk eller stora flygplatser, med flera säkerhetsskikt och noggrann, tidskrävande planering, så att tillfälliga och oundvikliga mänskliga misstag inte leder till katastrof. Just nu vet AI-företagen inte hur—men andra gör det,” skrev han.
I sitt inlägg konstaterar han att OpenAI står fast vid sina säkerhetsrutiner och anser att de är tillräckligt noggranna. Företaget lanserade dessutom nyligen ett ramverk för öppen rapportering av felaktigt modellbeteende.
”Mina tidigare kollegor är smarta, arbetar hårt och försöker fatta bra beslut. Men när företaget rusar från en lansering till nästa missar de den noggrannhet jag tycker att de behöver,” tillägger Robinson.
Robinson är den senaste av flera säkerhetsexperter inom AI som gått ut offentligt sedan början av september. Serien startade när Anthropic-forskaren Jacob Coxon slutade och anklagade både Anthropic och OpenAI för att spela hasard med mänskliga liv.
Några dagar senare varnade två tidigare Google DeepMind-forskare, Bilal Chughtai och Josh Engels, också för AI-risker. OpenAI:s säkerhetsforskare Marcus Williams uppskattade risken för mänsklig utrotning till 70 % inom 3 år.
Anthropics vd Dario Amodei har också förespråkat att sakta ner utvecklingen, och OpenAI:s Sam Altman stöder planen. Lanseringarna fortsätter ändå. Anthropic släppte Claude Opus 5,5 och OpenAI lanserade GPT-6 Sol och Luna den 22 september.
Washington svarar på larmen med en arbetsgrupp
Robinson tycker att starkare incitament för säkerhet nu måste komma utifrån labben. Hittills har Washington svarat med en översyn.
Director of National Intelligence Jay Clayton, numera ansvarig i administrationen för AI, blir ledare för en ny arbetsgrupp i Vita huset. Gruppen har 120 dagar på sig att rapportera om AI:s risker, möjligheter och statens ansvar.
”Presidenten har begärt att en grupp ska samlas för att se till att vi förblir ledande inom superintelligens och att USA:s folk kommer först,” sade Clayton.
Men Trump har avvisat krav på stopp i AI-utvecklingen och vill hellre ligga före Kina. Han stöder istället ett frivilligt avtal som bygger på externa säkerhetsgranskningar och starkare interna kontroller. Några veckor tidigare presenterade han en “AI Force” inspirerad av Space Force.
Arbetsgruppens uppdrag omfattar också hur staten övervakar AI-intrång och hack, liknande de problem Robinson sett på OpenAI. Claytons rapport, som ska vara klar i början av 2027, visar om dessa misslyckanden leder till bindande regler eller stannar i labben.
Prenumerera på vår YouTube-kanal för att se ledare och journalister ge expertråd
