Apple usuwa aplikacje „nudify” z App Store

Apple w komunikacie z 16 października 2026 r. doprecyzował zasady usuwania z App Store aplikacji tworzących intymne obrazy prawdziwych osób bez ich zgody. Zmiana obejmuje także obrazy generowane przez AI. Program, który podczas App Review ukrywa taką funkcję, a ujawnia ją po zatwierdzeniu, może zostać usunięty ze sklepu; jego twórca może również stracić konto w Apple Developer Program.

Apple zaostrzył więc zarówno wymagania wobec treści, jak i reguły dotyczące tego, co deweloper pokazuje podczas weryfikacji. Relacja TechCrunch z 19 października 2026 r. opisuje aplikacje podszywające się pod zwykłe narzędzia, by przejść App Review, a następnie udostępniające funkcje „nudify”. Dla twórców narzędzi generatywnych oznacza to konieczność zapewnienia skutecznej moderacji oraz przedstawienia do oceny rzeczywistych możliwości produktu.

Reguła 1.2 obejmuje także obrazy generowane przez AI

Wymogi App Store obejmują zatrzymanie niedozwolonego obrazu generowanego przez AI oraz możliwość zgłoszenia nadużycia.

W App Review Guidelines punkt 1.2 wymienia intymne obrazy powstające bez zgody osoby przedstawionej wśród zagrożeń związanych z treściami tworzonymi przez użytkowników. Zasada obejmuje aplikacje, w których można tworzyć, generować, przesyłać lub udostępniać materiały, w tym narzędzia do tworzenia treści za pomocą AI. Obowiązek moderacji dotyczy zatem również obrazu powstałego w samym generatorze, a nie wyłącznie fotografii przesłanej do aplikacji.

Taki produkt musi mieć sposób filtrowania niedozwolonych treści przed ich opublikowaniem, mechanizm zgłaszania naruszeń i terminowo reagować na zgłoszenia. Użytkownik powinien móc zablokować sprawcę nadużycia, a dane kontaktowe dostawcy usługi muszą być dostępne. To wymagania dotyczące działania aplikacji: sama deklaracja, że szkodliwych obrazów nie wolno tworzyć, nie zastępuje narzędzi zapobiegania i reagowania.

Regulamin rozróżnia brak odpowiednich zabezpieczeń od rażącego lub powtarzającego się naruszenia. Gdy niedozwolona treść zostanie wykryta, deweloper może zostać wezwany do jej usunięcia i przedstawienia planu poprawy; aplikacja może zniknąć z App Store do czasu wykazania zmian. Rażące lub powtarzające się naruszenia stanowią również podstawę do usunięcia twórcy z Apple Developer Program. Osobną granicę wyznacza przeznaczenie usługi: aplikacja używana przede wszystkim do treści pornograficznych może zostać usunięta bez uprzedzenia.

Reguła 2.5.19 dotyczy tego, co widzi App Review

Aplikacja w App Store ujawnia po App Review funkcję, której nie przedstawiono podczas weryfikacji.

Najostrzejsza konsekwencja dla konta wiąże się z ukrywaniem funkcji aplikacji. Punkt 2.5.19 zabrania możliwości ukrytych, uśpionych lub nieudokumentowanych; działanie programu ma być jasne dla użytkowników oraz zespołu App Review. Próba zatajenia funkcji w kodzie, także przez jego zaciemnianie, może skutkować usunięciem aplikacji z App Store i zamknięciem konta dewelopera.

Mechanizm jest prosty: do oceny trafia aplikacja przedstawiana jako zwykły edytor zdjęć, lecz po akceptacji zaczyna oferować tworzenie intymnych obrazów bez zgody osób przedstawionych. Funkcja może zostać uaktywniona później, choć nie była dostępna w wersji poddanej ocenie. Istotna jest rozbieżność między możliwościami ujawnionymi podczas App Review a tymi udostępnionymi użytkownikom po zatwierdzeniu.

Regulamin wymaga również, by nowe funkcje i zmiany produktu zostały szczegółowo opisane w uwagach dla recenzentów oraz były dostępne do sprawdzenia. Przed wysłaniem aplikacji deweloper ma zapewnić pełny dostęp do jej działania, włączyć potrzebne usługi zaplecza i wyjaśnić mniej oczywiste możliwości. Jeśli funkcja wymaga zalogowania, należy dostarczyć aktywne konto demonstracyjne albo w pełni funkcjonalny tryb demonstracyjny. Ma to znaczenie zwłaszcza wtedy, gdy o dostępności opcji decyduje konfiguracja usługi po stronie serwera.

Zmiana produktu po publikacji nie jest sama w sobie opisywanym nadużyciem. Problem powstaje wtedy, gdy funkcjonalność dodana lub ujawniona po akceptacji nie była przedstawiona do oceny, a aplikacja wprowadziła recenzentów w błąd co do swojego przeznaczenia. Zgoda na wcześniejszą wersję nie daje więc ochrony funkcji, której App Review nie mógł sprawdzić.

Sekcja 5 wyznacza konsekwencje najcięższych naruszeń

W tej samej aktualizacji doprecyzowano sekcję 5 dotyczącą wymogów prawnych. Aplikacje ułatwiające handel ludźmi lub wykorzystywanie dzieci mają być usuwane z App Store i blokowane w alternatywnych kanałach dystrybucji objętych zasadami Apple. W takich skrajnych przypadkach przewidziano także zawiadomienie odpowiednich organów.

Ten zapis dotyczy szczególnie ciężkich działań, dlatego nie należy przenosić jego konsekwencji na każde zgłoszenie obrazu intymnego bez zgody. Przy zwykłym naruszeniu obowiązków moderacji znaczenie mają zabezpieczenia, reakcja dewelopera po powiadomieniu oraz skala uchybienia. Przy celowym zatajeniu funkcji podczas App Review podstawą usunięcia aplikacji i konta jest z kolei reguła 2.5.19. Jedna aplikacja może naruszać kilka zasad, lecz każda z nich odnosi się do innego zachowania.

Co powinno być gotowe przed wysłaniem generatora

Wymagania dają twórcy aplikacji generatywnej konkretną listę kontroli przed zgłoszeniem produktu do App Review. Obejmuje ona zarówno treści, które usługa pozwala wytworzyć, jak i funkcje, które recenzent będzie mógł rzeczywiście uruchomić:

Filtrowanie powinno zatrzymywać niedozwolone materiały przed ich opublikowaniem, również gdy powstają za pomocą AI.
Użytkownik musi mieć możliwość zgłoszenia obraźliwego materiału i zablokowania sprawcy, a dostawca usługi powinien terminowo reagować na zgłoszenia.
Dane kontaktowe oraz sposób usuwania treści naruszających zasady muszą odpowiadać działającej usłudze, nie tylko jej opisowi.
Uwagi dla App Review powinny szczegółowo wyjaśniać nowe i mniej oczywiste funkcje; recenzent potrzebuje dostępu do konta demonstracyjnego lub pełnego trybu demonstracyjnego, jeśli funkcje wymagają logowania.
Usługi zaplecza i konfiguracja funkcji powinny pozwalać ocenić możliwości, które użytkownicy otrzymają po zatwierdzeniu aplikacji.

Ta lista nie przesądza o wyniku oceny konkretnego produktu. Wyznacza jednak granicę dla aplikacji korzystających z generatywnej AI: moderacja musi działać tam, gdzie powstaje lub pojawia się szkodliwa treść, a wersja przekazana do App Review musi ujawniać rzeczywiste możliwości usługi. Jeśli dopiero po akceptacji pojawi się ukryta funkcja tworzenia intymnych obrazów bez zgody, zagrożona będzie nie tylko obecność aplikacji w sklepie, lecz także dalszy udział jej twórcy w programie deweloperskim.

Przeczytaj także: