Perspective API

Perspective utilisait le machine learning pour aider à modérer les conversations en ligne. Un site envoyait un commentaire à l’API et recevait des scores pour des attributs comme la toxicité, l’insulte, les grossièretés et la menace. Éditeurs et plateformes s’en servaient pour signaler des commentaires à relire, prévenir les auteurs avant publication ou trier les discussions. Des rédactions et des forums l’utilisaient pour faire face à de gros volumes de commentaires, et des chercheurs pour étudier les abus en ligne.

L’outil a aussi suscité un débat. Des études ont montré que ses scores pouvaient être biaisés, par exemple en jugeant plus toxiques des commentaires qui mentionnent certains termes d’identité, et il ne remplaçait pas des modérateurs humains. Jigsaw a reconnu ces limites et a travaillé à réduire le biais, et le modèle a été très utilisé en recherche comme référence pour la toxicité.

Jigsaw a cessé d’accepter de nouvelles demandes et a annoncé la fin du service. Les opérateurs qui s’en servent doivent migrer vers d’autres outils de modération, comme le point de terminaison de modération d’OpenAI, Azure AI Content Safety, Hive, Sightengine, ou des modèles ouverts de classification de la toxicité, avec une relecture humaine. Cette fiche reste pour référence, parce que beaucoup de guides de modération et d’articles de recherche citent Perspective.