Perspective API

Perspective usaba aprendizaje automático para ayudar a moderar conversaciones en línea. Un sitio enviaba un comentario a la API y recibía puntuaciones de atributos como toxicidad, insulto, lenguaje soez y amenaza, que editores y plataformas usaban para marcar comentarios para revisión, avisar a quienes comentaban antes de publicar u ordenar las discusiones. Medios de comunicación y foros lo usaban para manejar grandes cantidades de comentarios, y los investigadores para estudiar el abuso en línea.

La herramienta también generó debate. Algunos estudios encontraron que sus puntuaciones podían tener sesgos, por ejemplo al calificar como más tóxicos los comentarios que mencionaban ciertos términos de identidad, y no sustituía a los moderadores humanos. Jigsaw reconoció las limitaciones y trabajó para reducir el sesgo, y el modelo se usó mucho en investigación como referencia (benchmark) de toxicidad.

Jigsaw dejó de aceptar nuevas solicitudes y anunció que pondrá fin al servicio. Quienes dependen de él tienen que migrar a otras herramientas de moderación, como el endpoint de moderación de OpenAI, Azure AI Content Safety, Hive, Sightengine o modelos abiertos de clasificación de toxicidad, junto con revisión humana. Esta ficha se mantiene como referencia porque muchas guías de moderación y artículos de investigación mencionan Perspective.