Apple og Google beordres: Fjern AI-nøgenapper fra App Store

Apple og Google har begge modtaget formelle juridiske breve fra San Franciscos byadvokat med krav om at fjerne 13 apps, der bruger kunstig intelligens til at generere falske nøgenbilleder af rigtige mennesker — uden samtykke. Brevene, afsendt den 17. juli 2026, sætter en 28-dages frist og advarer om civile bøder, hvis kravene ikke efterkommes.

Hvad er "nudify"-apps, og hvad gør de?

Nudify-apps — også kaldet AI-nøgenapper — bruger kunstig intelligens til digitalt at fjerne tøjet fra personfotografier og generere realistisk-udseende nøgenbilleder af rigtige mennesker. Resultatet er det, lovgivningen betegner som NCII: Non-Consensual Intimate Imagery, eller ikke-samtykkede intime billeder.

Apps af denne type markedsføres typisk som "face swap"-værktøjer eller AI-fotoediting, men kernebrugen er at producere seksualiseret indhold af identificerbare privatpersoner — herunder i mange tilfælde mindreårige. Brugerne uploader et foto, og appen genererer et falsk nøgenbillede i løbet af sekunder.

San Franciscos byadvokat David Chiu beskriver i brevene, at 8 af de 13 apps lå i Apples App Store, mens de resterende 5 fandtes i Google Play. Begge platforme har ifølge Chiu tjent millioner af dollars i gebyrer på disse applikationer, og den californiske lovgivning åbner nu for, at virksomheder kan holdes ansvarlige for at "bistå og opmuntre" til ulovlig deepfake-pornografi.

Reaktionerne fra Apple og Google

Apple bekræftede over for 9to5Mac, at selskabet har fjernet tre af de otte nævnte apps og er i gang med at afvikle udviklerkontiene. Fire andre udviklere er kontaktet og bedt om enten at overholde Apples retningslinjer eller få deres apps fjernet. Apple understregede, at selskabet "altid strengt har forbudt apps designet til at generere, distribuere eller forbruge pornografi."

Google meddelte, at alle fem Play Store-apps nævnt i brevet allerede er blevet suspenderet. Selskabet tilføjede, at det løbende undersøger overtrædelser og "suspenderer hundredvis af krænkende apps."

Forskellene i reaktionerne er bemærkelsesværdige. Google handler tilsyneladende hurtigere og mere komplet, mens Apple efterlader fire apps i en gråzone med opfølgningsdialoger. Tech Transparency Project (TTP), der har fulgt problemet tæt, har siden januar 2026 rapporteret mere end 100 nudify-apps på tværs af de to platforme.

Et problem der har bygget sig op siden 2025

Sagen er ikke ny — og det er problemet. TTP udgav i januar 2025 den første rapport, der dokumenterede, at deepfake-nøgenapper aktivt annoncerede i App Store og Google Play, inklusive via platformenes egne søgeforslag og anbefalingsalgoritmer. En opfølgningsrapport fra april 2025 nåede frem til, at begge platforme vidste om applikationerne og var advaret — men ikke handlet.

I april 2026 bekæmpede Apple — ifølge medier — kort mulighederne for, at Elon Musks Grok-app ville blive fjernet fra App Store på grund af deepfake-sexuelt indhold genereret via appen. Det var et signal om, at problemet var udbredt langt ud over de 13 nævnte apps.

I juni 2026 stramme Apple sine App Store-retningslinjer for pornografisk indhold og præciserede, at tredjepartsudviklere er ansvarlige for brugergeneret seksuelt indhold. Men ifølge Chiu er det ikke gået hurtigt nok.

Lovgivningen: Hvad siger loven i Californien og EU?

Californien kriminaliserede i 2025 aktiviteter, der "bevidst faciliterer" ikke-samtykkede deepfake-nøgenbilleder. En lov fra samme år giver ofre for NCII-deepfakes mulighed for at anlægge civile søgsmål mod tredjepartsfacilitatorer — det vil sige de platforme, der hoster og tjener penge på apps, der producerer sådant indhold.

I EU's perspektiv er problemet ligeledes reguleret under AI-forordningen (AI Act), der trådte fuldt i kraft i 2025, og GDPR's bestemmelser om behandling af følsomme personoplysninger. Deepfake-nøgenbilleder af identificerbare personer uden samtykke er klart i strid med GDPR's artikel 9 og EU's AI Act-klassifikation af "uacceptabel risiko."

For danske brugere og virksomheder er det afgørende at forstå, at det ikke kun er app-udbyderne, der kan holdes ansvarlige. Den, der deler et deepfake-nøgenbillede af en person — også selvom det er genereret via en app — kan ifølge den danske straffelov risikere anmeldelse og retsforfølgning for at krænke en persons seksuelle integritet.

Hvad sker der nu?

Apple og Google har 28 dage til at reagere formelt over for Chius kontor. Fristen for svar er i midten af august 2026.

Chiu har antydet, at civilretlige søgsmål følger, hvis selskaberne ikke dokumenterer tilstrækkelig og permanent handling. Potentielle civile bøder under den californiske lovgivning kan være mærkbare, og sagen kan skabe præcedens for lignende lovgivningstiltag i andre stater og EU-lande.

Begge platforme står over for et grundlæggende problem: AI-teknologien, der driver nudify-apps, er tilgængelig for enhver app-udvikler, og der opstår løbende nye varianter. Uden proaktiv gennemgangsteknologi — ikke blot anmodningsbaseret fjernelse — vil lignende apps dukke op igen.

Konklusion

Sagen mod Apple og Google understreger, at de store app-platforme i stigende grad holdes juridisk ansvarlige for indholdet i deres butikker. Nudify-apps har eksisteret i årevis, og begge selskaber vidste om dem — men handlingstempoet har ikke matchet problemets omfang.

De kommende 28 dage vil vise, om den juridiske trussel fra San Francisco er tilstrækkelig til at skabe systematisk og vedvarende oprydning. Hold øje med opdateringer fra Tech Transparency Project og apple.com/app-store/review/guidelines/ for ændringer i Apples udviklerpolitikker.