Hive Moderation

Hive bietet Inhaltsmoderation als API. Eine Plattform sendet Nutzer-Uploads wie Fotos, Videos, Livestreams, Kommentare oder Audiodateien ein. Hive gibt Klassifizierungen samt Konfidenzwerten für Kategorien wie Nacktheit, Gewalt, Hasssymbole, Drogen und Selbstverletzung zurück. Unternehmen entfernen Inhalte automatisch, leiten Grenzfälle an menschliche Prüfer:innen weiter oder schränken den Zugang ein – bei großen Mengen wäre eine manuelle Prüfung unmöglich.

Die Modelle des Unternehmens decken inzwischen mehr als klassische Moderation ab. Hive erkennt KI-generierte Bilder, Videos und Audios, bietet Deepfake-Erkennung für Behörden und Medien sowie Werkzeuge für Markensicherheit und kontextbezogene Werbung. Die Modelle werden mit großen, von Menschen markierten Datensätzen trainiert. Kund:innen können Einstellungen an ihre eigenen Richtlinien anpassen.

Hive verkauft den Dienst nutzungsbasiert an Plattformen und Unternehmen und bietet eine kostenlose Testphase. Moderation erfordert stets einen Ausgleich zwischen dem Erkennen schädlicher Inhalte und dem übermäßigen Sperren zulässiger Inhalte. Modelle machen Fehler; bei sensiblen Entscheidungen ist menschliche Prüfung wichtig. Konkurrenten sind Amazon Rekognition, die Inhaltssicherheitswerkzeuge von Google Cloud und Azure AI, Sightengine und der Moderationsendpunkt von OpenAI. Hive eignet sich für Plattformen mit großen Mengen nutzergenerierter Inhalte.