Hive Moderation

HiveはコンテンツモデレーションをAPIとして提供します。プラットフォームは、写真、動画、ライブ配信、コメント、音声などの利用者のアップロードを送り、Hiveはヌード、暴力、ヘイトのシンボル、薬物、自傷などのカテゴリについて、信頼度スコア付きの分類を返します。企業はこの結果で、コンテンツを自動で削除したり、境界付近の事例を人間の確認者に送ったり、アクセスを制限したりします。この規模を手作業で行うのは不可能です。

同社のモデルは、従来のモデレーションの範囲を超えて広がっています。Hiveは、合成の画像、動画、音声を見分けるAI生成コンテンツの検知、政府やメディアの顧客が使うディープフェイク検知、ブランドセーフティとコンテキスト広告のツールを提供します。人がラベルを付けた大規模なデータセットで学習し、顧客は自社のポリシーに合わせて設定を変えられます。

Hiveは従量課金でプラットフォームと企業に販売され、評価用の無料トライアルがあります。モデレーションには、有害なコンテンツを捉えることと、問題のないコンテンツを止めすぎることのトレードオフが常にあり、モデルは間違えるため、慎重な判断では人間の確認が引き続き重要です。競合にはAmazon Rekognition、Google Cloudのコンテンツ安全ツール、Azure AI Content Safety、Sightengine、OpenAIのモデレーション用エンドポイントがあります。Hiveは、利用者が作ったコンテンツが大量にあるプラットフォームに向いています。