Azure Content Moderator

Content Moderator era la herramienta de Microsoft para revisar contenido generado por los usuarios. Analizaba el texto en busca de palabrotas y datos personales, examinaba las imágenes para detectar contenido para adultos o subido de tono y revisaba vídeo, y devolvía puntuaciones y avisos que las plataformas podían usar para filtrar elementos o enviarlos a revisión humana. Comunidades en línea, mercados y apps con subidas de usuarios lo usaban como primera línea de defensa automática.

Microsoft ha declarado obsoleto el servicio y ya no permite proyectos nuevos, y remite a los clientes a Azure AI Content Safety. El servicio más reciente usa modelos más avanzados, maneja varios niveles de gravedad en categorías como odio, contenido sexual, violencia y autolesiones, admite muchos más idiomas y añade funciones pensadas para la IA generativa, como los prompt shields y la detección de fundamentación. Los proyectos existentes de Content Moderator siguen funcionando hasta la fecha de retirada.

Quien siga usando Content Moderator debería planificar la migración a Azure AI Content Safety o a otro proveedor antes de que termine el servicio. Entre las alternativas están el endpoint de moderación de OpenAI, las funciones de moderación de contenido de Google Cloud, la moderación de Amazon Rekognition, Hive y Perspective API para la toxicidad en texto. Los proyectos nuevos deberían empezar con Content Safety. Esta ficha se mantiene como referencia porque tutoriales y documentación más antiguos siguen mencionando Content Moderator.