Chroma
Open-Source-Vektordatenbank für KI-Gedächtnis und Suche
Chroma ist eine Vektordatenbank, die auf einfache Nutzung durch Entwickler:innen ausgelegt ist. Sie speichert Einbettungen – numerische Darstellungen von Texten, Bildern und anderen Daten – zusammen mit Metadaten und den Originaldokumenten. Anwendungen suchen damit nach Inhalten, die einer Eingabe in ihrer Bedeutung ähneln. Das ist die Grundlage semantischer Suche und Retrieval-Augmented Generation.
Der Einstieg ist einfach: Mit wenigen Zeilen Python oder JavaScript erstellst du eine Sammlung, fügst Dokumente hinzu und führst Abfragen aus. Chroma läuft im Arbeitsspeicher innerhalb eines Programms, als lokaler Server oder als gehosteter Cloud-Dienst. Integrationen gibt es mit LangChain, LlamaIndex und weiteren Frameworks; deshalb ist Chroma für Prototypen verbreitet.
Chroma ist kostenlos und Open Source; für den Produktivbetrieb gibt es die verwaltete Chroma Cloud. Große Installationen erfordern Aufmerksamkeit für Leistung und Betrieb. Bei hoher Last wechseln manche Teams zu anderen Datenbanken. Alternativen sind Pinecone, Weaviate, Qdrant, Milvus und pgvector in Postgres. Chroma eignet sich für Entwickler:innen, die Retrieval-Anwendungen prototypisieren.