Apple skärper App Store – dolda AI-nudifierare kan fälla utvecklarkontot

Apple skärpte den 16 oktober 2026 App Review Guidelines: appar som låter användare skapa eller dela innehåll ska förebygga och ta bort intima bilder utan samtycke, även AI-genererade. En ny regel riktas mot funktioner som döljs under granskningen och aktiveras först efter godkännande. En utvecklare som gömmer en sådan funktion riskerar att förlora både appen och sitt utvecklarkonto.

I en genomgång hos Clubic den 17 oktober 2026 beskrivs hur en app kan framstå som en vanlig bildtjänst för App Review men senare ge tillgång till AI-baserad nudifiering. Både pornografiskt innehåll och dolda funktioner var förbjudna sedan tidigare. Det nya är att Apple pekar ut intima bilder utan samtycke i modereringsregeln och anger en uttrycklig påföljd för den som gömmer funktioner.

Ny skrivning i en äldre modereringsplikt

Regel 1.2 omfattar appar där användare kan skapa, generera, ladda upp, dela eller på annat sätt bidra med innehåll. Där nämns nu intima bilder utan samtycke uttryckligen, liksom appar för AI-genererat innehåll. Kravet gäller att förebygga att sådant material förekommer på plattformen och att ta bort det när det ändå dyker upp. Det räcker alltså inte att en bild är syntetisk för att den ska falla utanför modereringen.

Den grundläggande skyldigheten är äldre: appar med användarinnehåll ska ha en metod för att filtrera stötande material innan det publiceras, en funktion för anmälningar, svar på klagomål i rimlig tid och möjlighet att blockera användare som missbrukar tjänsten. Kontaktuppgifter ska också vara publicerade. Apples tidigare förbud mot pornografiskt material omfattar dessutom appar som skapar sexuellt explicita bilder av verkliga personer utan deras samtycke, även när appen inte bygger på offentlig delning.

Filtrering och anmälningar löser olika delar av problemet. Ett publiceringsfilter kan fånga upp innehåll innan andra ser det; en anmälan kan uppmärksamma bilder som passerat filtret eller situationer där samtycke inte går att avgöra utifrån bilden ensam. Utvecklaren ansvarar sedan för att ta bort innehåll som strider mot regeln, de egna användarvillkoren eller tjänstens gemenskapsregler. Apple kräver svar i rimlig tid men anger ingen allmän tidsgräns i timmar.

Dolda funktioner får en uttrycklig sanktion

Den nya regeln 2.5.19 är kort och tydlig. Apples regeltext säger: ”Don't include any hidden, dormant, or undocumented features in your app”. Funktionerna ska vara begripliga för både användarna och App Review. Att försöka gömma en odokumenterad funktion i appens programkod, exempelvis genom att göra koden svår att läsa, anges som grund för att ta bort appen och avsluta utvecklarkontot.

Apple beskriver också ett annat sätt att vilseleda granskningen: en utvecklare lämnar in en app med ett begränsat beteende och lägger till en funktion först efter godkännandet. En bildapp blir därmed inte godtagbar för att dess nudifiering är osynlig när App Review provar den. Förbudet mot att dölja vad en app gör fanns redan, men den nya paragrafen gör både beteendet och risken för kontot mer explicita.

Granskningen gäller den faktiska tjänsten, inte bara det som syns vid första öppningen. Nya funktioner och produktändringar ska beskrivas konkret i granskningsanteckningarna i App Store Connect och vara tillgängliga för granskaren. Om funktioner kräver inloggning ska utvecklaren tillhandahålla ett aktivt demokonto eller ett fullständigt demoläge. De bakomliggande tjänsterna måste också vara åtkomliga under granskningen.

Kontrollista för svenska bild- och UGC-appar

För en svensk utvecklare är det relevant att gå igenom hela flödet från bildgenerering eller uppladdning till publicering, anmälan och borttagning. Punkterna nedan skiljer Apples krav från en egen rutin som kan göra det lättare att redovisa hur appen följer dem:

• Förebygg publicering: Ha en metod som filtrerar stötande material innan det läggs ut. Se över hur skyddet fungerar när innehåll skapas med AI, laddas upp som en färdig bild eller delas vidare inom appen.
• Ta emot och besvara anmälningar: Gör det möjligt att rapportera problematiskt innehåll och hantera klagomål i rimlig tid. Publicera kontaktuppgifter så att användare kan nå utvecklaren även när en anmälan kräver mer sammanhang.
• Ta bort innehåll och begränsa missbruk: Ta bort material som bryter mot reglerna eller tjänstens egna villkor. Användare ska kunna blockera konton som missbrukar tjänsten.
• Gör funktionerna granskningsbara: Beskriv nya och svårupptäckta funktioner i granskningsanteckningarna. Ge App Review den åtkomst som behövs för att använda dem och håll de bakomliggande tjänsterna igång.
• Dokumentera åtgärder som egen rutin: Anteckna hur filter, anmälningar och borttagningar fungerar och vilka förbättringar som görs efter ett påpekande. Det kan underlätta en plan för bättre efterlevnad, men Apple har inte infört ett separat krav på en sådan logg.

När en överträdelse upptäcks

Påföljden beror på vad som har hänt. Om Apple hittar innehåll som bryter mot modereringsregeln kan företaget begära att det tas bort och att utvecklaren lägger fram en plan för bättre efterlevnad. Beroende på svaret kan appen tas bort från App Store tills utvecklaren visar förbättringar. Grova eller upprepade överträdelser kan leda till omedelbar borttagning även från Apple Developer Program.

Försök att avsiktligt gömma odokumenterade funktioner har en egen, skarpt formulerad följd: appen kan tas bort och utvecklarkontot avslutas. För en bildtjänst innebär det att modereringen måste fungera när användarna väl får tillgång till appen, samtidigt som de funktioner som faktiskt erbjuds måste gå att se under granskningen.

Läs också:

• Lås GitHub Actions till SHA – taggen kan flyttas efter granskningen
• Rensa dolda data före delning – Word och PDF kräver olika verktyg
• Ta bort platsdata från bilder – filen kan avslöja hemadressen