Perspective API

Perspectiveは、機械学習でオンライン上の会話のモデレーションを助けていました。サイトがコメントをAPIに送ると、有害性、侮辱、冒涜、脅迫といった属性のスコアが返ります。パブリッシャーやプラットフォームは、これを使ってレビュー対象のコメントに印を付けたり、投稿前に警告したり、議論を並べ替えたりしていました。報道機関やフォーラムは大量のコメントをさばくために使い、研究者はオンライン上の中傷の研究に使いました。

このツールは議論も呼びました。特定のアイデンティティを示す言葉を含むコメントを、より有害と評価するなど、スコアに偏りがありうることが研究で示され、人間のモデレーターの代わりにはなりませんでした。Jigsawは限界を認めて偏りの低減に取り組み、このモデルは有害性の指標として研究で広く使われました。

Jigsawは新規リクエストの受け付けを止め、サービスを終了すると発表しました。これに頼っている運営者は、OpenAIのモデレーションエンドポイント、Azure AI Content Safety、Hive、Sightengine、有害性分類用のオープンなモデルなど、ほかのモデレーションツールと人によるレビューに移る必要があります。多くのモデレーションガイドや研究論文がPerspectiveに触れているため、この項目は参考のために残しています。