Perspective API

Perspective nutzte maschinelles Lernen zur Moderation von Onlinegesprächen. Eine Website schickte einen Kommentar an die API und erhielt Bewertungen für Merkmale wie Toxizität, Beleidigung, Schimpfwörter und Drohungen. Verlage und Plattformen markierten damit Kommentare zur Prüfung, warnten Verfasser:innen vor dem Veröffentlichen oder sortierten Diskussionen. Nachrichtenorganisationen und Foren bewältigten so große Mengen an Kommentaren; Forschende untersuchten damit Online-Missbrauch.

Das Werkzeug löste auch Debatten aus. Studien fanden mögliche Verzerrungen: Kommentare mit bestimmten Identitätsbegriffen wurden etwa als toxischer bewertet. Perspective ersetzte keine menschliche Moderation. Jigsaw räumte Einschränkungen ein und arbeitete daran, Verzerrungen zu verringern. In der Forschung wurde das Modell häufig als Maßstab für Toxizitätsbewertung verwendet.

Jigsaw nahm keine neuen Anfragen mehr an und kündigte das Ende des Dienstes an. Betreiber:innen müssen auf andere Moderationswerkzeuge umsteigen, etwa den Moderationsendpunkt von OpenAI, Azure AI Content Safety, Hive, Sightengine oder offene Modelle zur Toxizitätsklassifizierung – ergänzt um menschliche Prüfung. Dieser Eintrag bleibt als Referenz erhalten, da viele Moderationsleitfäden und Forschungsarbeiten Perspective erwähnen.