LlamaIndex

LlamaIndex begann als Open-Source-Bibliothek, mit der Sprachmodelle auf private Daten zugreifen können. Das ist weiterhin ihre Hauptaufgabe. Sie lädt Informationen aus Dateien, Datenbanken, APIs und Apps wie Notion und Slack, teilt sie in Abschnitte, indexiert sie und ruft passende Stellen ab, wenn jemand eine Frage stellt. Dieses Muster der Retrieval-Augmented Generation ermöglicht vielen Unternehmens-Chatbots, Antworten aus internen Dokumenten statt nur aus dem allgemeinen Modellwissen zu geben.

Das Unternehmen konzentriert sich zunehmend auf Dokumentenverarbeitung und Agenten. LlamaParse ist ein gehosteter Dienst, der unübersichtliche PDFs, Tabellen, Folien und Scans in klaren Text und strukturierte Daten umwandelt. Werkzeuge extrahieren Felder, teilen und klassifizieren Dokumente und erstellen einen Index. Es gibt auch einen lokalen Open-Source-Parser. Workflows ist ein Framework zum Erstellen von Agenten und mehrstufigen Abläufen. LlamaCloud bündelt verwaltete Dienste für Teams, die nicht alles selbst betreiben möchten.

Das Open-Source-Framework ist kostenlos. Die Cloud-Dienste verwenden Credits, mit monatlichem Gratis-Kontingent und kostenpflichtigen Tarifen. Für Unternehmen gibt es private Cloud-Bereitstellung und Support. Im Vergleich zu LangChain konzentriert sich LlamaIndex stärker auf Datenaufnahme und Retrieval, auch wenn sich die beiden überschneiden. Die Genauigkeit bei unübersichtlichen Dokumenten hängt von der Qualität des Parsings ab – genau hier investiert LlamaIndex. Weitere Optionen für dokumentenintensive KI-Arbeit sind Unstructured, Haystack und Azure Document Intelligence.