GPT4All

GPT4All lleva los modelos de lenguaje a los ordenadores personales. Tras instalar la app en Windows, macOS o Linux, eliges un modelo de una lista integrada, lo descargas y chateas sin conexión a internet. Todo se ejecuta en tu propia CPU o GPU, así que tus prompts y archivos no van a un servidor remoto.

Una función llamada LocalDocs permite indicar a la app carpetas con tus archivos para que el modelo responda preguntas sobre ellos mediante recuperación, lo que la hace útil como asistente privado de investigación o de notas. El proyecto es de código abierto y también ofrece bibliotecas y enlaces para desarrolladores que quieran integrar modelos locales en su propio software.

La app es gratuita. El rendimiento depende de tu hardware y del tamaño del modelo, y los modelos locales más pequeños son menos capaces que los mayores sistemas en la nube. El ritmo del proyecto ha variado, y herramientas como Ollama y LM Studio han atraído a muchos usuarios que quieren ejecutar modelos locales. Entre las alternativas están LM Studio, Ollama, Jan, Msty y Open WebUI. GPT4All sirve para quienes quieren un chatbot local sencillo y privado.