Musk taber AI-nøgenapp-sag: EU undersøger nu Grok

Elon Musks AI-selskab xAI led et markant juridisk nederlag den 1. august 2026, da en føderal dommer nægtede at blokere en ny delstatslov i Minnesota. Loven forbyder applikationer, der giver brugere mulighed for at generere ikke-samtykkede seksuelle billeder af andre personer ved hjælp af kunstig intelligens — de såkaldte "nudify"-apps. Parallelt hermed er EU's myndigheder gået i gang med en undersøgelse af Grok-chatbotten for mulige overtrædelser af EU's digitallovgivning. Sagen er den hidtil mest dramatiske juridiske konfrontation i et eskalerende politisk og juridisk oprør mod AI-genererede seksuelle deepfakes.

Dommeren afviste xAI's hasteanmodning

Dommer Donovan Frank fra den føderale distriktsdomstol nægtede den 1. august 2026 at udstede en midlertidig tilbageholdelsesordre, som xAI havde anmodet om. Ordren skulle have hindret Minnesotas nye lov i at træde i kraft som planlagt.

I sin afgørelse lagde dommeren særlig vægt på spørgsmålet om timing. xAI indgav sin stævning den 29. juli 2026 — blot tre dage inden lovens ikrafttræden og næsten tre måneder efter lovens officielle vedtagelse. Dommeren bemærkede eksplicit, at forsinkelsen talte klart imod xAI's anmodning om øjeblikkelig retlig indgriben.

xAI argumenterede over for retten, at Minnesotas lov er "for vidtgående," og at der eksisterer "langt mindre indgribende alternativer," som kunne nå de samme lovgivningsmæssige mål uden at begrænse AI-modellers kapaciteter. Disse argumenter overbeviste imidlertid ikke dommeren. xAI's bredere retssag mod delstaten fortsætter, men forbuddet mod nudify-apps er nu i fuld kraft.

Baggrunden: Grok og bølgen af deepfake-billeder

Sagen har sit udspring i en massiv bølge af ikke-samtykkede seksualiserede billeder, der tidligt i 2026 oversvømmede den sociale medieplatform X. Billederne var genereret ved hjælp af Grok, xAI's AI-chatbot, som er integreret direkte i X-platformen.

Fra chatbot til kontroversielt billedværktøj

Tre anonyme sagsøgere anlagde sag mod xAI med påstand om, at selskabet burde holdes ansvarligt for, at dets AI-modeller producerede seksuelt krænkende billeder af identificerbare mindreårige baseret på virkelige fotografier. Gruppen ønskede at anlægge en kollektiv retssag på vegne af alle, der som mindreårige fik ændret virkelige billeder til seksuelt indhold via Grok.

Reaktionerne internationale kom hurtigt og hårdt: Indonesien og Malaysia blokerede adgangen til Grok helt, og California's statsadvokat udsendte et formelt standsningspåbud (cease-and-desist) mod xAI i januar 2026. X reagerede kort efter ved at begrænse Groks billedgenerering til betalende abonnenter — men skaden var i mange øjne allerede sket, og tilliden til platformen fortsat under pres.

Læs TechCrunchs fulde dækning af domstolsafgørelsen her.

Minnesota vedtager USA's første forbud mod nudify-apps

Minnesotas lov er historisk: den er den første i sin art i hele USA og sætter en direkte juridisk grænse for applikationer designet specifikt til at generere ikke-samtykkede seksualiserede billeder af virkelige mennesker. Loven afspejler en voksende international konsensus om, at AI-genererede seksuelle deepfakes udgør en alvorlig krænkelse af enkeltpersoners rettigheder og menneskelige værdighed.

Nudify-apps anvender de samme avancerede diffusionsmodeller som legitime AI-billedgeneratorer, men de er målrettet mod at producere seksuelt indhold af specifikke, identificerbare individer — uden disse personers viden eller samtykke. Ofrene spænder fra kendte personer og offentlige figurer til privatpersoner og, ifølge retsdokumenterne i Grok-sagerne, endda mindreårige børn.

Presset fra retssager, internationale forbud og statsadvokaters indgriben synes nu at have nået et kritisk punkt, der tvinger lovgivere til at handle. Minnesota er first mover, men andre delstater forventes at følge trop med lignende lovgivning i kølvandet på afgørelsen.

EU igangsætter undersøgelse af Grok

Den juridiske kamp i USA er langtfra den eneste front, xAI skal navigere. Europa-Kommissionen har beordret xAI til at bevare alle dokumenter relateret til Grok-chatbotten — en foranstaltning, der typisk er den formelle forløber for åbning af en egentlig undersøgelse under EU-retten.

EU, Det Forenede Kongerige, Sydkorea og Indien er alle aktivt i gang med at undersøge xAI og X-platformen i forbindelse med datahåndtering og distribution af ulovligt indhold. For Europa-Kommissionen sker undersøgelsen primært under rammerne af Digital Services Act (DSA), som pålægger store onlineplatforme et krav om aktivt at bekæmpe ulovligt og skadeligt indhold.

Se TechCrunchs artikel om California-statsadvokatens undersøgelse af Grok og Musks dementi.

EU's DSA er en af verdens skarpeste digitalreguleringsordninger for store platforme. Overtrædelser kan i princippet medføre bøder på op til seks procent af en virksomheds globale årsindtægt. For xAI og X er EU-undersøgelsen dermed ikke blot et omdømmemæssigt problem — den repræsenterer en potentielt massiv finansiel risiko, afhængigt af hvad undersøgelsen afslører.

Hvad sker der nu?

Med afgørelsen fra dommer Frank kan xAI's bredere retssag mod Minnesota nu gå i gang for alvor i det amerikanske retssystem. Selskabets juridiske teams skal bevise, at Minnesotas lovgivning er forfatningsstridig — en udfordrende opgave, når loven er vedtaget med bred politisk støtte, og bevisbyrden for faktisk skade er veldokumenteret i retsdokumenterne.

Parallelt hermed vil EU-processen sandsynligvis trække ud over måneder eller endda år, inden eventuelle sanktioner vedtages. Men det politiske og juridiske signal er i forvejen tydeligt: regulatorer på begge sider af Atlanten er ikke indstillet på at lade AI-nøgenapper operere frit uden konsekvenser.

For xAI og Elon Musk er situationen en skarp påmindelse om, at teknologisk kapabilitet og juridisk frihed ikke er synonymer. De vidtrækkende konsekvenser af uregulerede AI-billedgeneratorer er for åbenlyse til at ignorere, og domstole og lovgivere sender nu et klart signal: teknologiselskaber kan ikke skjule sig bag teknologiens kompleksitet, når konsekvenserne er reel og dokumenteret menneskelig skade.