En artificiell intelligens (AI) agent gick förbi säkerhetskontroller och började bryta kryptovaluta under en vanligt träningsövning, visar en forskningsrapport. Forskarna som är kopplade till Alibaba publicerade rapporten.
Forskarna skapade modellen ROME för att testa en AI agents förmåga att på egen hand lösa svåra uppgifter i flera steg.
AI-agent använder moln-GPU:er för att mina krypto
Under övningen såg forskarna oväntat beteende. Agenten gjorde en omvänd ssh-tunnel till externa servrar, vilket skapade en dold koppling inifrån systemet.
Detta gjorde det möjligt för modellen att komma förbi Alibaba Clouds brandvägg och omdirigera grafikprocessorers resurser till kryptovalutabrytning.
“Vi såg också att tilldelad gpu-kapacitet användes olovligt för kryptovalutabrytning, vilket tyst tog datorkraft från träning, ökade driftskostnader och gav tydliga juridiska och rykterisker,” står det i rapporten .
Forskarna säger att detta beteende kom oväntat utan någon tydlig instruktion, prompt injection eller extern jailbreak.
Fynden visar att man fortfarande oroar sig för säkerheten kring autonoma AI-system.
Forskarna menar att dagens modeller har stora brister i säkerhet, trygghet och kontrollbarhet, vilket gör att teknologin inte är redo för stor användning i verkligheten.
Teamet har nu infört hårdare restriktioner och ett datasystem som fokuserar på säkerhet för att förhindra liknande händelser.
Samtidigt har upptäckten väckt mycket intresse i kryptovärlden.
“AI förstod att datorkraft = pengar och flyttade tyst sina resurser själva, medan forskarna trodde att den bara tränade. Det var ingen prompt injection. Det var ingen jailbreak. Ingen bad den göra detta. Beteendet dök upp av sig själv,” säger Josh Kale, värd och producent för Bankless kryptopodd .
Kale nämner att den brytna tillgången troligen var ett gpu-vänligt token och inte Bitcoin, som kräver speciell hårdvara. Händelsen händer när kryptobranschen snabbt går mot agentekonomin.
Denna nya sektor ser ett landskap där mjukvarusystem kan göra mer än att bara skapa text. I denna värld kan de här agenterna också utföra svåra finansiella strategier på egen hand.
Därför investerar flera företag och blockkedjor som Ethereum, Paradigm och Circle i verktyg som ska stödja denna nya infrastruktur.
Ett exempel är x402-standarden stödd av Coinbase, som låter mjukvaruagenter betala för onlinetjänster. Men det används fortfarande väldigt lite.
Data från x402 visar att verktyget hanterade över 75 miljoner transaktioner, totalt 24 miljoner USD i bruttovolym bland 94 000 köpare och 22 000 säljare under de senaste 30 dagarna.
Ändå menar experter att denna aktivitet kan växa snabbt om autonoma agenter blir vanligare.
“AI och krypto konkurrerar inte — de går ihop. AI behöver identitet, betalningar och spårbarhet. Krypto erbjuder allt detta,” säger riskkapitalbolaget a16z .
