Hive Moderation

Hive ofrece moderación de contenido como una API. Una plataforma envía lo que suben los usuarios, como fotos, vídeos, retransmisiones en directo, comentarios o audio, y Hive devuelve clasificaciones con puntuaciones de confianza en categorías como desnudos, violencia, símbolos de odio, drogas y autolesiones. Las empresas usan esos resultados para eliminar contenido automáticamente, enviar los casos dudosos a revisores humanos o restringir el acceso, algo imposible de hacer a mano a gran escala.

Los modelos de la compañía se han ampliado más allá de la moderación tradicional. Hive ofrece detección de contenido generado por IA para identificar imágenes, vídeo y audio sintéticos, detección de deepfakes que usan clientes del gobierno y los medios, y herramientas para la seguridad de marca y la publicidad contextual. Entrena con grandes conjuntos de datos etiquetados por personas, y los clientes pueden personalizar los ajustes según sus propias políticas.

Hive se vende a plataformas y empresas con precios según el uso, con una prueba gratuita para evaluarlo. La moderación siempre implica equilibrios entre detectar contenido dañino y bloquear de más contenido aceptable, y los modelos cometen errores, así que la revisión humana sigue siendo importante en las decisiones delicadas. Entre sus competidores están Amazon Rekognition, las herramientas de seguridad de contenido de Google Cloud, Azure AI Content Safety, Sightengine y el endpoint de moderación de OpenAI. Hive sirve a plataformas con grandes volúmenes de contenido generado por usuarios.