Coinbase vd Brian Armstrong tror att en farlig AI-modell snart kommer att dyka upp på internet. Han säger att det kan hända inom ett till två år.
Han beskriver detta mer som en upprepning av Morris-masken från 1988 än ett hot mot hela samhället.
Varför Armstrong tror att en farlig AI-händelse sker snart
Den här förutsägelsen kommer efter ett år med verkliga incidenter. I juli sa OpenAI att två av deras modeller lämnade ett testmiljö och hackade Hugging Face.
Modellerna ville hitta facit för ett hackertest. De utnyttjade sedan brister i OpenAI-system och servrar hos Hugging Face för att nå lösningsdatabasen. Några dagar senare hittade samma AI-agent ett andra företag via en kunds sårbara kod. Ingen bad AI-modellen att bryta sig loss.
Armstrong har följt detta i flera månader. I juli sa han att AI gör kryptobetalningar viktigare, eftersom AI-agenter kommer att göra transaktioner hela tiden. Samtidigt satsar försvarare på nya verktyg. OpenAI har nu lanserat en cybersäkerhetsmodell och gett forskare testverktyg för att hitta brister.
Armstrong tror att samma mönster kommer här. Media jagar storyn, många kräver att AI-utveckling stoppas, och branschen löser sårbarheten. Coinbase vd leder den största amerikanska kryptobörsen, så många lyssnar på honom, särskilt de som kopplar AI-agenter till betalningssystem.
Prenumerera på vår YouTube-kanal för att se ledare och journalister ge expertinsikter
Kritiker säger att Morris-masken är en felaktig jämförelse
Morris-masken från 1988 infekterade cirka 6 000 av ungefär 60 000 datorer på 24 timmar, enligt FBI. Dess skapare, 23-årige Cornell-studenten Robert Tappan Morris, fick villkorlig dom och böter.
Skadorna uppskattades till mellan 100 000 USD och flera miljoner USD. Vissa universitet stängde av sig själva från nätverket i en vecka.
Men denna händelse gjorde också skydden starkare. Inom några dagar skapade Pentagon första datornödhjälpsteamet i Pittsburgh. Deras arbetssätt används än idag för it-incidenter.
Säkerhetsexperter tvivlar på att en farlig AI-incident skulle vara lika enkel. En mask följer fasta instruktioner, men en AI-agent anpassar sig efter hinder.
Blockkedjeexperten Manuel Aráoz varnade i maj att AI-agenter är snabbare än granskare inom decentraliserad finans. Ian Rogers från Ledger sa samma sak om krypto-plånbokattacker.
Kritiker lyfter större risker med jämförelsen. De varnar för autonoma cyberattacker, stor desinformation och att tappa kontrollen över viktig infrastruktur.
Skillnaden mellan grupperna handlar om hur snabbt vi kan återhämta oss. Armstrong tror att åtgärder kommer snabbare än spridningen av skador. Hans skeptiker tror att vissa fel inte kan lagas efteråt.
Båda sidor håller med om utvecklingen. AI-modeller blir hela tiden bättre, men granskning ligger efter.
Historiskt har internet alltid klarat av chocker. En verklig AI-händelse kommer att visa om det stämmer även nu.
