Mit der Übernahme des kanadischen Startups Taalas plant AMD, das eigene KI-Portfolio um schnelle Inferenzlösungen zu erweitern. Denn die 2023 in Toronto gegründete Firma entwickelt KI-Chips mit fest verdrahtetem KI-Modell, um Inferencing deutlich zu beschleunigen. Gleichzeitig sollen die Halbleiter sparsamer arbeiten und einfacher herzustellen sein als GPUs, die als Allzweck-Beschleuniger verschiedener KI-Modelle gelten.

Erst Anfang dieses Jahres hat Taalas mit dem angekündigten HC1-Chip KI-Inferenz in Silizium gegossen. Dabei ist das KI-Modell Llama 3.1 8B fest verdrahtet, das laut Herstellerangaben mit dem HC1 fast 17.000 Token pro Sekunde pro Nutzer erzeugen soll. Lösungen von Nvidia und Cerebra sollen damit um das 74- respektive 8,5-fache übertroffen werden. Dabei genügen dem bei TSMC im 6-Nanometer-Prozess gefertigtem applikationsspezifischer Logikchip (ASIC) rund 53 Milliarden Transistoren.

Taalas-Integration in AMDs KI-Lösungen

Der Vorteil des Taalas-Ansatzes ist gleichzeitig der größte Nachteil, denn der HC1 kann nur Llama 3.1 8B ausführen, keine anderen KI-Modelle. Zudem wurde Llama 3.1 bereits Mitte 2024 vorgestellt, das ist im KI-Wettrüsten schon ein stattliches Alter. Immerhin lassen sich laut Taalas die Größe des Kontextfensters konfigurieren und per Low-Rank-Adapter Feinabstimmungen vornehmen. Allerdings ist der schlanke, automatisierte und schnelle Entwicklungsprozess für KI-ASICs das eigentliche Ziel der jungen Firma.

Diese gehört nun zu AMD, denn das Halbleiterunternehmen hat laut Mitteilung eine verbindliche Vereinbarung zur Übernahme von Taalas unterzeichnet. Der Kaufpreis ist bislang nicht bekannt. Taalas-Technologie soll die KI-Plattformen AMDs mit den Helios-Servern, den Instinct-GPUs, den Epyc-CPUs sowie der ROCm-Software ergänzen. AMD plant, Taalas-Technologie in die Beschleuniger-Roadmap zu integrieren und gemeinsam mit Taalas entsprechende Lösungen auf Systemebene mit Instinct-GPUs zu entwickeln.

AMDs Kunden gehören zur Taalas-Zielgruppe

Die Übernahme ist im Nachhinein betrachtet wenig überraschend. Denn die beiden Taalas-Gründer Ljubisa Bajic und Drago Ignjatovic waren zuvor länger für AMD tätig, Bajic aber auch für Nvidia. Der Marktführer für KI-Beschleuniger hat aber bereits Ende 2025 einen Vertrag mit einem anderen Inferenz-Chip-Startup geschlossen. Dabei wechselten Mitarbeiter des Chip-Startups Groq zu Nvidia. Chips mit fest integrierten KI-Eigenschaften plant auch Google mit „Frozen v2“.

Lösungen wie diese zielen allein auf Rechenzentren und sind nicht für die KI-Beschleunigung von Endgeräten gedacht. Zudem erwarten Marktbeobachter, dass der Kundenkreis durch die Beschränkung der Hardware auf einzelne KI-Modelle stark eingegrenzt ist. Taalas-Lösungen dürften vorrangig von Entwicklern von KI-Modellen, deren Infrastrukturanbieter und einigen Anbietern für Inferenz-Dienste eingesetzt werden. Das passt zu AMD, denn OpenAI, Anthropic und Meta Platforms gehören zu den Abnehmern von AMDs Instinct-Systemen.

(fds)