Amazon Bedrock

Bedrock ermöglicht es vielen Unternehmen auf AWS, große Sprachmodelle zu nutzen, ohne selbst eine Modellinfrastruktur zu betreiben. Statt separate Verträge mit jedem KI-Labor abzuschließen, wählst du Modelle aus einem Katalog von Anbietern wie Anthropic, Meta, Mistral und Amazon und rufst sie über eine API ab. Die Daten bleiben in deinem AWS-Konto. Das ist wichtig für Teams mit Anforderungen an Sicherheit, Datenschutz und Compliance. Bedrock lässt sich außerdem mit den bereits verwendeten IAM-, Netzwerk- und Protokollierungswerkzeugen verbinden.

Rund um die Modelle gibt es die Bausteine, die du für eine echte Anwendung brauchst. Knowledge Bases verbinden ein Modell über Retrieval-Augmented Generation mit deinen Dokumenten. Agenten planen Aufgaben und rufen APIs auf, um sie auszuführen. AgentCore stellt Infrastruktur für Agenten bereit, die mit beliebigen Frameworks gebaut wurden. Guardrails blockieren unerwünschte Themen und sensible Daten und können Antworten auf faktische Belege prüfen. Außerdem gibt es Werkzeuge, um Modelle miteinander zu vergleichen, feinzujustieren und Prompts zwischenzuspeichern, um Kosten zu senken.

Bedrock wird nach Nutzung abgerechnet, meist pro Token bei der On-Demand-Nutzung. Für gleichmäßige Arbeitslasten gibt es Batch-Verarbeitung und reservierte Kapazität. Umfang und Aktualität des Modellangebots unterscheiden sich von den APIs der Anbieter selbst. Ein Modell kann deshalb später auf Bedrock erscheinen als auf der Website des jeweiligen Labors. Konkurrenten sind Azure AI Foundry und Vertex AI von Google Cloud. Teams, die bereits AWS nutzen, wählen Bedrock häufig wegen der bequemen Einbindung und gemeinsamen Abrechnung.