En viral prompt ber ChatGPT att fylla ett tomt rum med allt som chatboten vet om en användare, och resultaten visar hur mycket ChatGPT har sparat i sitt minne. Många visste att chatboten lagrar data, men att se allt samlat på en bild gör vissa användare oroliga.
Trenden ser ut som oskyldig underhållning. Men den fungerar även som ett säkerhetstest, eftersom varje sak i rummet visar data som användare har skrivit till chatboten. Om dessa bilder läggs ut på X kan främlingar få samma profil.
Vad sparar ChatGPT-minnet egentligen?
Prompten visar en enkel bild av ett tomt grått rum och ger chatboten en instruktion. Chatboten möblerar sedan rummet utifrån gamla konversationer. Ett populärt kryptokonto på X bad sina följare att testa och lägga upp sina resultat.
Enligt OpenAI fungerar ChatGPT-minnet på två sätt.
- Sparade minnen innehåller information som en användares namn, preferenser och mål.
- Plus- och Pro-abonnenter får även tillgång till chatt-historik, så modellen kan använda gamla samtal även om inget sparats.
Det växande minnet gör det svårare att byta, som diskussionen om AI-memory lock-in visade.
Varför kryptoägare riskerar mer
För kryptoägare handlar risken om mer än pinsamma detaljer. Tidigare i år upptäckte utvecklare kryptoplånboksdata i Claude-konversationer som Google hade indexerat via delade länkar.
En sparad profil som nämner innehav, börser eller reseplaner kan hjälpa bedragare att skriva mer trovärdiga phishing-meddelanden.
Binance-grundaren Changpeng Zhao har redan sagt att den riktiga AI-faran är phishing och läckta data, inte att bryta Bitcoins kryptografi. På så sätt visar det tomma rummet vad en angripare kan få veta.
OpenAI låter användare visa, ta bort eller stänga av ChatGPT-minnet under Personliga inställningar. En temporär chatt läser inte eller uppdaterar inte minnet.
Vissa inom krypto går längre. Ethereum-grundaren Vitalik Buterin skapade ett paranoidt läge för AI som döljer prompts innan de når modellen.
Myndigheter höjer samtidigt kostnaden för dåligt hanterad data. En domare i New Mexico tvingade Meta att betala ett rekordvite på 25 miljarder USD för hur Facebook hanterat användardata.
Allt eftersom ChatGPT-minnet blir större kan det tomma rummet bli ett rutinmässigt test av vad AI-företag vet.
