Hive Moderation

Hive propose la modération de contenu comme une API. Une plateforme envoie des uploads d’utilisateurs, comme des photos, des vidéos, des lives, des commentaires ou de l’audio, et Hive renvoie des classifications avec des scores de confiance sur des catégories comme la nudité, la violence, les symboles de haine, les drogues et l’automutilation. Les entreprises utilisent ces résultats pour retirer automatiquement du contenu, envoyer les cas limites à des relecteurs humains, ou restreindre l’accès, ce qui serait impossible à faire à la main à cette échelle.

Les modèles de l’entreprise se sont élargis au-delà de la modération classique. Hive propose la détection de contenu généré par IA pour identifier images, vidéo et audio synthétiques, la détection de deepfake utilisée par des clients publics et médias, et des outils de brand safety et de publicité contextuelle. Il s’entraîne sur de grands jeux de données étiquetés par des humains, et les clients peuvent personnaliser les réglages pour leurs propres politiques.

Hive se vend aux plateformes et aux entreprises avec des tarifs à l’usage, et un essai gratuit pour l’évaluation. La modération implique toujours des arbitrages entre attraper le contenu nuisible et bloquer trop de contenu acceptable, et les modèles se trompent, donc la revue humaine reste importante pour les décisions sensibles. Les concurrents incluent Amazon Rekognition, les outils de sûreté de contenu de Google Cloud, Azure AI Content Safety, Sightengine, et le endpoint de modération d’OpenAI. Hive convient aux plateformes avec de grandes quantités de contenu généré par les utilisateurs.