Letta est né du projet de recherche MemGPT, qui proposait de gérer la mémoire d’un agent comme un système d’exploitation gère la mémoire. Dans Letta, un agent a une mémoire centrale qu’il voit toujours et des stockages externes qu’il peut lire et écrire, pour garder des informations à travers des conversations qui dépassent largement la fenêtre de contexte d’un modèle.
Les développeurs créent des agents via une API, définissent leurs outils et leurs blocs de mémoire, et les laissent tourner sur de longues périodes. Ça convient aux assistants qui doivent retenir les préférences d’un utilisateur, aux compagnons, et aux agents qui apprennent de l’expérience. Une plateforme hébergée gère le déploiement, et des outils permettent d’inspecter et de modifier ce dont un agent se souvient.
Letta est open source, avec un service cloud qui a des offres gratuites et payantes. Les systèmes de mémoire ajoutent de la complexité et du coût, et ce qu’un agent stocke demande de la prudence sur la vie privée. Les alternatives incluent Mem0, Zep, LangGraph avec mémoire, et les fonctions de mémoire des produits OpenAI et Anthropic. Letta convient aux développeurs qui construisent des agents qui se souviennent.