Lakera

Lakera defiende las aplicaciones construidas sobre modelos de lenguaje. Su producto Guard se sitúa entre los usuarios y el modelo: analiza los prompts en busca de intentos de anular las instrucciones, extraer secretos o inyectar contenido malicioso, y revisa las respuestas para detectar filtraciones y material dañino. Los desarrolladores lo añaden con una llamada a la API.

La empresa nació de la investigación sobre ataques adversariales y se dio a conocer con Gandalf, un juego público en el que los jugadores intentan engañar a un modelo para que revele una contraseña, y que generó un gran conjunto de datos de ataques. Las herramientas de red teaming prueban las aplicaciones antes del lanzamiento.

Check Point, una empresa de ciberseguridad, adquirió Lakera para incorporar la seguridad de IA a su plataforma. Lakera ha tenido un nivel gratuito y planes de pago. Ningún filtro detecta todo, así que las defensas en capas y los permisos limitados siguen siendo importantes. Entre las alternativas están Prompt Security, Protect AI, HiddenLayer, Giskard y las barreras de protección de los proveedores de nube. Lakera encaja con equipos que despliegan aplicaciones LLM.