AnythingLLM
Privater KI-Assistent mit Dokumentenchat und Agenten
AnythingLLM bietet einen privaten Ort für Gespräche mit eigenen Dateien. Nutzer fügen Dokumente, Webseiten und andere Inhalte einem Arbeitsbereich hinzu; die App indexiert sie in einer Vektordatenbank. Bei einer Frage ruft sie relevante Passagen ab und gibt sie an ein Sprachmodell weiter, das mit Quellenverweisen antwortet.
Flexibilität ist ein Hauptvorteil. Nutzer wählen ein lokales Modell über Ollama oder LM Studio oder ein Cloudmodell von OpenAI, Anthropic und anderen Anbietern und können wechseln, ohne den Arbeitsbereich neu aufzubauen. Agenten können im Web suchen oder Werkzeuge ausführen. Die Serverversion unterstützt mehrere Nutzer und Berechtigungen; eine API und ein einbettbares Chat-Widget sind ebenfalls vorhanden.
Die Desktopversion ist kostenlos und quelloffen; gehostete und Unternehmensoptionen sind verfügbar. Lokale Modelle sind weniger leistungsfähig als die größten Cloudmodelle, und die Geschwindigkeit hängt von der Hardware ab. Alternativen sind Open WebUI, GPT4All, Msty, LibreChat und Khoj. AnythingLLM eignet sich für Einzelpersonen und Teams, die private Dokumentengespräche wünschen.