Kimsuky, en nordkoreansk hackergrupp, har tagit fram och testat lokala AI-verktyg när de undersöker hur tekniken kan användas i skadeprogram och attacker. Det säger det sydkoreanska cybersäkerhetsföretaget Genians på måndagen.
Gruppen verkar ha använt generativ AI för att skapa vilseledande dokument. Genians säger att Kimsuky utvecklar kunskap för att bygga in AI-modeller i sina attacker.
Inuti Kimsukys lokala AI-verktyg
Kimsuky är en hotaktör som jobbar för Nordkoreas Reconnaissance General Bureau. USA:s finansdepartement satte 2023 gruppen på sanktionslistan som en statlig spionageenhet.
Utredare hittade bevis på att Kimsuky hade installerat och ställt in flera verktyg för att köra AI-modeller lokalt, inklusive Ollama, GPT4All och Msty.
Genians säger att lokal hantering kan minska risken för att känsligt eller stulet material skickas till utomstående AI-tjänster. Forskarna upptäckte också retrieval-augmented generation, RAG, som låter AI-modeller hämta information från utvalda dokument.
Genians hittade dessutom AI-agentramverk, tal-till-text-program och Cursor, som är ett AI-verktyg för kodning, på relaterad infrastruktur. Företaget säger att dessa verktyg kan hjälpa till att bygga in AI i skadeprogram, dataanalys och automatiska attacker.
“Baserat på dessa fynd bedömer vi att aktören i den statsstödda hackergruppen Kimsuky hela tiden har undersökt hur AI kan användas aktivt i faktiska hot, som utveckling av skadeprogram och nya attackmetoder, och inte bara testat tekniken,” står det i rapporten.
Följ oss på X och få de senaste nyheterna direkt
Från kryptobete till automatisering
Gruppen har använt finansiella och kryptorelaterade dokument som verkar vara AI-genererade. Filerna imiterade investeringsrapporter.
Andra nordkoreanska grupper har blandat AI med attacker mot kryptomarknaden riktade mot chefer och ingenjörer. Sådana grupper ska ha stulit 2,02 miljarder USD i krypto under 2025 enligt en branschuppskattning.
Genians pekar på två risker. RAG kan hjälpa till att hitta bra information i stulna dokument, samtidigt som tal-till-text-verktyg kan göra stulna ljudfiler sökbara som text.
Trots det menar Genians att Kimsukys AI-arbete främst handlar om forskning och att lära sig hur tekniken kan användas i deras verksamhet. Forskarna hittade inget som visar att gruppen tränat egna AI-modeller.
Prenumerera på vår YouTube-kanal för att se experters analyser
