Azure Content Moderator

Content Moderator était l’outil de Microsoft pour contrôler le contenu généré par les utilisateurs. Il scannait le texte pour les insultes et les données personnelles, analysait les images pour le contenu adulte ou suggestif, et filtrait la vidéo, en renvoyant des scores et des drapeaux que les plateformes pouvaient utiliser pour filtrer ou envoyer des éléments à une revue humaine. Des communautés en ligne, des places de marché et des apps avec des envois d’utilisateurs s’en servaient comme première ligne de défense automatisée.

Microsoft a déprécié le service et n’autorise plus de nouveaux projets, en orientant les clients vers Azure AI Content Safety. Le service plus récent utilise des modèles plus avancés, gère plusieurs niveaux de gravité sur des catégories comme la haine, le contenu sexuel, la violence et l’automutilation, prend en charge beaucoup plus de langues, et ajoute des fonctions tournées vers l’IA générative, dont des prompt shields et la détection d’ancrage. Les projets Content Moderator existants continuent de marcher jusqu’à la date d’arrêt.

Quiconque utilise encore Content Moderator doit prévoir une migration vers Azure AI Content Safety ou un autre fournisseur avant la fin du service. Parmi les alternatives : le point de terminaison de modération d’OpenAI, les fonctions de modération de contenu de Google Cloud, la modération d’Amazon Rekognition, Hive, et Perspective API pour la toxicité du texte. Les nouveaux projets doivent commencer avec Content Safety. Cette fiche reste pour référence, parce que d’anciens tutoriels et de la documentation parlent encore de Content Moderator.