Azure Content Moderator

Content Moderator war Microsofts Werkzeug zur Prüfung nutzergenerierter Inhalte. Der Dienst suchte Texte nach Schimpfwörtern und persönlichen Daten ab, analysierte Bilder auf sexuelle oder anzügliche Inhalte und prüfte Videos. Er gab Bewertungen und Markierungen zurück, mit denen Plattformen Inhalte filtern oder einer menschlichen Prüfung zuführen konnten. Online-Communities, Marktplätze und Apps mit Uploads nutzten ihn als automatisierte erste Schutzstufe.

Microsoft hat den Dienst als veraltet eingestuft und nimmt keine neuen Projekte mehr an. Kund:innen sollen zu Azure AI Content Safety wechseln. Der neuere Dienst nutzt fortgeschrittenere Modelle, unterscheidet mehrere Schweregrade für Kategorien wie Hass, sexuelle Inhalte, Gewalt und Selbstverletzung und unterstützt mehr Sprachen. Für generative KI gibt es außerdem Prompt Shields und Erkennung mangelnder Fundierung. Bestehende Content-Moderator-Projekte funktionieren bis zum Ende der Laufzeit weiter.

Wer Content Moderator noch nutzt, sollte vor dem Ende des Dienstes zu Azure AI Content Safety oder einem anderen Anbieter wechseln. Alternativen sind der Moderations-Endpunkt von OpenAI, Moderationsfunktionen von Google Cloud und Amazon Rekognition, Hive sowie Perspective API zur Erkennung toxischer Texte. Neue Projekte sollten direkt mit Content Safety starten. Dieser Eintrag bleibt als Referenz erhalten, da ältere Anleitungen und Dokumentationen Content Moderator weiterhin erwähnen.