Ai-Inference

KI-Tools mit dem Tag Ai-Inference.

53 Tools · handverlesen und kuratiert

// Preis

Microsoft Maia 300 Microsofts Azure-KI-Beschleuniger der nächsten Generation, Produktion ab 2027 geplant

NVIDIA Rubin CPX NVIDIAs Rubin-GPU mit GDDR7 für Inferenz mit sehr großem Kontext, geplant für Ende 2026

Alibaba Zhenwu V900 T-Head-Chip für Training und Inferenz, ausgelegt auf Cluster mit bis zu 500.000 Einheiten

NVIDIA RTX PRO 5500 Blackwell Blackwell-Workstation-GPU mit 84 GB ECC-GDDR7-Speicher

Axelera Europa Europäischer KI-Prozessor mit In-Memory-Computing für Inferenz am Edge und im Rechenzentrum

d-Matrix Raptor Erster 3D-DRAM-Beschleuniger mit direkt auf eigenem Speicher gestapelter Recheneinheit

Intel Crescent Island Intels LPDDR5X-Inferenz-GPU für KI-Leistung pro Watt statt Grafikleistung

Microsoft Maia 200 Microsofts Inferenzchip der zweiten Generation für Azure

Cerebras CS-4 Wafergroßes Inferenzsystem mit Cerebras neuer Nexus-Rack-Architektur

Meta MTIA 400 Meta-Chip für KI-Training und Inferenz zur Anzeigenrangfolge

AMD Instinct MI440X GPU der MI400-Serie für lokale KI-Installationen in Unternehmen

AMD Instinct MI455X Flaggschiff-GPU der MI400-Serie für AMDs Helios-Rack zum KI-Training

Alibaba Hanguang 800 Alibabas erster hauseigener KI-Inferenzchip

AMD Instinct MI325X CDNA-3-Refresh mit großem Speicher für die Inferenz großer Modelle

AMD Instinct MI450X CDNA-5-Flaggschiff der MI400-Serie für das Helios-Rack

AWS Inferentia AWS erster eigener Inferenzchip

AWS Inferentia2 Inferenzchip der zweiten Generation von AWS

Biren BR104 Halb so großes Schwestermodell der BR100 für Inferenz-Workloads

d-Matrix Corsair Chiplet-Karte mit In-Memory-Computing für LLM-Inferenz mit geringer Latenz

Etched Sohu ASIC, fest verdrahtet für den Betrieb von ausschließlich Transformer-Modellen

FuriosaAI RNGD Energieeffizienter Inferenzchip der zweiten Generation

FuriosaAI Warboy FuriosaAIs erster kommerzieller Inferenzchip

Google Coral Edge TPU Kleiner Inferenzbeschleuniger für USB und M.2 in Embedded-Geräten

Google TPU 8i Googles TPU der achten Generation, speziell für Inferenz entwickelt

Google TPU Ironwood (v7) Inferenzoptimierte TPU der siebten Generation von Google

Google TPU v1 Googles TPU der ersten Generation, ausschließlich für Inferenz und nie extern verkauft

Google TPU v5e Kosteneffiziente TPU-Generation für Training und Inferenz

Groq GroqCard Deterministische Karte mit Single-Core-Language-Processing-Unit

Groq LPU Language Processing Unit speziell für LLM-Inferenz mit geringer Latenz

Huawei Ascend 310 Energiesparender Edge-Inferenzchip

Intel Data Center GPU Flex 140 Energiesparende Medien- und Inferenzkarte mit zwei GPUs

Intel Data Center GPU Flex 170 GPU für Medien-Transkodierung und Inferenz in Cloud-Workloads

Meta MTIA v2 Metas eigener Inferenzchip für Empfehlungen und Rangfolgen

NVIDIA A10 Ampere-GPU für Grafik und KI-Inferenz

NVIDIA A10G Bei AWS beliebte Ampere-GPU für Grafik und Inferenz

NVIDIA A30 Ampere-GPU für Mainstream-Inferenz und Analysen

NVIDIA A40 Ampere-GPU für Grafik und Inferenz in Rechenzentren

NVIDIA H20 Exportkonforme Hopper-GPU für den chinesischen Markt

NVIDIA H200 Hopper-Refresh mit großem Speicher für die Inferenz großer Modelle

NVIDIA L4 Energiesparende Ada-Lovelace-Inferenz-GPU für Cloud-Server

NVIDIA L40S Ada-Lovelace-GPU für Rechenzentren und Inferenz- sowie Grafik-Workloads

NVIDIA Rubin R100 Nachfolger von Blackwell für KI im Agentenmaßstab

NVIDIA Tesla P4 Energiesparende Inferenz-GPU aus der Pascal-Generation

NVIDIA Tesla P40 Inferenz-GPU aus der Pascal-Generation, weiterhin beliebt für günstigen lokalen LLM-Speicher

NVIDIA Tesla T4 Weit verbreitete, energiesparende Inferenz-GPU

Qualcomm AI200 Inferenzbeschleuniger im Rack-Maßstab auf Basis der Hexagon-NPU

Qualcomm Cloud AI 100 Energieeffiziente Inferenzkarte für Rechenzentren

Qualcomm Cloud AI 100 Ultra Inferenzkarte mit großem Speicher für generative Großmodelle

SambaNova SN40L Rekonfigurierbarer Dataflow-Chip für die Inferenz von Modellen mit einer Billion Parametern

Samsung Mach-1 Samsungs erster eigener KI-Inferenzchip

Tenstorrent Blackhole Tenstorrents KI-Beschleuniger der dritten Generation mit RISC-V

Tenstorrent Grayskull Tenstorrents erste kommerzielle KI-Inferenzkarte

Tenstorrent Wormhole Skalierbare KI-Beschleunigerkarte auf RISC-V-Basis