GPT4All

GPT4All bringt Sprachmodelle auf persönliche Computer. Nach der Installation unter Windows, macOS oder Linux wählen Nutzer ein Modell aus einer integrierten Liste, laden es herunter und chatten ohne Internetverbindung. Alles läuft auf der eigenen CPU oder GPU; Prompts und Dateien werden nicht an einen entfernten Server gesendet.

LocalDocs lässt die App Ordner mit eigenen Dateien durchsuchen, sodass das Modell Fragen dazu beantworten kann. Dadurch eignet sich GPT4All als privater Recherche- oder Notizassistent. Das Projekt ist quelloffen und bietet außerdem Bibliotheken und Bindings für Entwickler, die lokale Modelle in eigene Software integrieren möchten.

Die App ist kostenlos. Leistung hängt von Hardware und Modellgröße ab; kleinere lokale Modelle sind weniger leistungsfähig als die größten Cloudsysteme. Das Entwicklungstempo war unterschiedlich, und Werkzeuge wie Ollama und LM Studio haben viele Nutzer gewonnen. Alternativen sind LM Studio, Ollama, Jan, Msty und Open WebUI. GPT4All eignet sich für alle, die einen einfachen, privaten lokalen Chatbot möchten.