Apple agit contre les apps utilisant l'IA pour « dénuder » des individus

Apple a récemment entrepris de retirer de l'App Store les applications utilisant l'intelligence artificielle pour "déshabiller" des individus, une pratique de plus en plus répandue. Les éditeurs de ces applications font ouvertement la promotion de leurs services sur les réseaux sociaux, ce qui a conduit à une enquête et à des actions de suppression de la part d'Apple. 

Grâce à l'intelligence artificielle, il est désormais possible de générer des images réalistes de toute nature, ce qui a incité certains à développer des applications proposant des fonctionnalités de "dénudement" des individus. Ces applications, présentées comme des "générateurs artistiques", pullulent sur les boutiques d'applications d'Apple et de Google. Suite à une enquête, Apple a retiré trois représentants de ce genre d'applications de l'App Store, mais uniquement ceux visés par l'enquête.

Pour détecter ces applications malveillantes, Apple pourrait surveiller les publicités publiées sur Instagram par les éditeurs, qui font souvent la promotion explicite de la fonction de "dénudement".

Google a également retiré une application permettant d'intégrer le visage d'une personne sur le corps d'une autre. Cependant, les opérateurs de boutiques d'applications se retrouvent dans un véritable jeu du chat et de la souris avec les éditeurs de ces applications. 

Cette affaire revêt une importance particulière car ces applications peuvent être utilisées par des harceleurs et représenter de réels dangers pour la santé mentale, en particulier chez les jeunes. La suppression de ces applications par les plateformes de téléchargement d'applications soulève des questions sur la régulation et la surveillance des contenus proposés aux utilisateurs.