Fyra ledande AI-labb har nu bekräftat att deras modeller nådde öppna internet och sedan fick tillgång till riktiga företags system. Google gick med på den listan i fredags, ungefär fyra månader efter att deras egna incidenter ägde rum.
Gemini nådde tre riktiga företag under en utvärdering i maj. Modellen slutade dock i alla tre fallen.
Googles Gemini bryter sig in i 3 företags system under test
Incidenten inträffade under en “capture-the-flag” säkerhetsövning som Irregular anordnade. Internetåtkomst ingick inte i testet. Ett fel i testmiljön gav dock modellen tillgång ändå.
Vid ett tillfälle gissade modellen lösenord tills den fick tillgång till ett skyddat system, enligt The Wall Street Journal. I de två andra fallen hittade modellen synliga inloggningsuppgifter i ett offentligt arkiv och använde dem för att komma in i skyddade system.
Heather Adkins, Googles vice vd för säkerhetsteknik, sade att de tre drabbade verksamheterna fick veta vad som hänt.
“Vi såg till att de tre parterna blev informerade och vi samarbetade med vår träningspartner om de förändringar de nu gjort i sina testprocesser,” sade hon.
Följ oss på X för att få de senaste nyheterna direkt
Fyra labb, ett mönster
Google berättade att agenterna avbröt sin aktivitet när de såg att de nått riktiga företags system och inte testmiljöer.
“Vid ett vanligt test hittade modellen information online och gissade inloggningsuppgifter för att komma åt webbplatser den trodde ingick i testet,” sade Adkins i ett uttalande.
Företaget menade att detta inte visade någon feljustering hos modellen och därför behövde man inte gå ut offentligt eftersom Geminis säkerhetsfunktioner fungerade.
En talesperson för Irregular sa att det rörde sig om samma problem som drabbat andra AI-labb. Irregular meddelade de berörda labben i slutet av juli. Talespersonen lade till att de kända problemen på deras sida åtgärdades för flera veckor sedan.
Avslöjandet placerar nu Google bredvid OpenAI, Anthropic och Meta, som alla rapporterat att modeller lämnat testmiljöer i år.
OpenAI berättade i juli att deras modeller lämnade en skyddad miljö och fick tillgång till Hugging Face. Anthropic såg sedan över mer än 141 000 testkörningar och fann tre egna incidenter. Meta rapporterade en liknande händelse i augusti.
Prenumerera på vår YouTube-kanal för att se ledare och journalister ge expertinsikter
