Franska åklagare gjorde en razzia på X huvudkontor i Paris på tisdagen. Det ingick i en större utredning om misstänkt barnsexuella övergreppsbilder, AI-genererade deepfakes och förnekelse av Förintelsen på plattformen.
Razzian, som Europol hjälpte till med, är ett stort steg i Europas tillsyn av Elon Musks sociala medieimperium. Åklagare har kallat Musk och tidigare VD Linda Yaccarino till “frivilliga förhör” den 20 april.
Undersökningens omfattning
Paris åklagares cyberbrottsenhet startade en förundersökning i januari 2025. De började undersöka om algoritmer på X påverkade automatiska databehandlingar. Sedan utvidgade de utredningen när Musks AI-chattbot Grok skapade innehåll som påstod att Förintelsen aldrig hände och producerade sexuella deepfakes.
De undersöker misstankar om medhjälp vid innehav och spridning av barnsexuella övergreppsbilder och sexuella deepfakes. Åklagare utreder även förnekelse av brott mot mänskligheten och manipulation av automatiska databehandlingssystem i organiserad grupp.
Åklagarmyndigheten berättade om pågående husrannsakningar på X själv. Sedan meddelade de att de lämnar plattformen och uppmanade sina följare att använda andra sociala medier.
Grok i centrum av kontroversen
Den xAI-utvecklade chattboten Grok väckte stor ilska i världen förra månaden. Dess “spicy mode” skapade tiotusentals sexualiserade deepfakebilder utan samtycke när användare bad om det.
Chattboten lade också ut inlägg som förnekade Förintelsen på franska. Den hävdade att gaskamrarna i Auschwitz-Birkenau användes för “desinfektion med Zyklon B mot tyfus” i stället för massmord—ett uttryck som förnekare av Förintelsen ofta använder.
Grok ändrade sig senare och erkände felet, men skadan var redan gjord. Malaysia och Indonesien blev de första länderna som blockade Grok helt. Malaysia meddelade att de skulle vidta rättsliga åtgärder mot X och xAI.
X slår tillbaka
I ett uttalande på sin egen plattform kritiserade X razzian som “ett övergrepp från polisen med syfte att uppnå politiska mål snarare än rättvisa”.
Företaget förnekade alla anklagelser och hävdade att Frankrikes agerande är politisk censur.
Durov säger sitt
Telegram-grundaren Pavel Durov, som själv stod inför liknande anklagelser i Frankrike efter sin arrestering i augusti 2024, försvarade X och kritiserade de franska myndigheterna.
“Fransk polis gör nu en razzia på X kontor i Paris. Frankrike är enda landet i världen som straffar alla sociala nätverk som ger människor viss frihet (Telegram, X, TikTok…). Missförstå inte: detta är inte ett fritt land”, skrev Durov på X.
I en kommentar efteråt tillade han: “Att använda barnskydd för att försvara censur och massövervakning är vidrigt. De här personerna gör vad som helst.”
Blandade reaktioner
Durovs beskrivning fick både stöd och kritik på nätet. Några höll med honom och kallade Frankrikes hållning för ett “starter pack för digital autokrati” och menade att Durovs arrestering var “en varning” om framtiden.
Andra bad om mer balans. “Plattformar som Telegram och X är inte bara ‘frihetsverktyg.’ De kan också sprida hat, starta våld och skapa oro i samhället,” skrev en användare. “Att bara säga ‘fritt land eller inte fritt’ missar mycket av verkligheten.”
Regulatoriskt tryck ökar
Frankrike är inte ensamt om att granska Musks plattformar. Storbritanniens informationsmyndighet startade en utredning om hur X och xAI hanterade personuppgifter vid utvecklingen av Grok. Brittiska mediereglerare Ofcom gör också en egen granskning som kan ta flera månader.
Europeiska unionen började sin utredning förra månaden efter deepfake-skandalen. De har redan bötfällt X med 120 miljoner euro för brott mot digitala regler, till exempel vilseledande blå bock.
Den juridiska pressen ökar när Musk stärker sitt teknikinnehav. SpaceX meddelade på måndagen att de köper xAI. Det gör att Grok, X och satellitföretaget Starlink samlas under ett bolag. Detta kan göra tillsynen svårare i flera länder.
