Google feuert auf marvell mit neuer ki-hardware an
Marvell Technology und google gehen eine strategische Partnerschaft ein, um die nächste Generation von künstlicher Intelligenz (KI) voranzutreiben. Der Fokus liegt dabei auf der Optimierung der Inferenz – der eigentlichen Anwendung von KI-Modellen nach dem Training.
Neuartige chips für die ki-inferenz
Die Zusammenarbeit zielt darauf ab, die Effizienz und Geschwindigkeit von KI-Systemen massiv zu steigern. google plant, mit Marvell zwei spezialisierte Chips zu entwickeln: einen für die Speicherintegration mit der Tensor Processing Unit (TPU) und einen komplett neuen TPU-Design, der speziell auf die Inferenz zugeschnitten ist. Dies ist ein wichtiger Schritt, um die bereits etablierten Partnerschaften mit Broadcom, MediaTek und TSMC zu ergänzen.
google’s Ironwood-TPU, die siebte Generation, die seit November im google Cloud verfügbar ist, liefert bereits ein dezentes Leistungsplus von bis zu zehnmal gegenüber den Vorgängermodellen v5p. Die Performance pro Chip übertrifft die TPU v6e um mehr als viermal, sowohl bei Trainings- als auch bei Inferenzaufgaben. Die Architektur mit bis zu 9.216 Chips in einem ‘Superpod’ – einem System für Supercomputing – basiert auf der eigens entwickelten Interconnect-Technologie ICI, die Daten mit einer Geschwindigkeit von 9,6 Tb/s zwischen Speicher und Prozessoren transportiert. Das Ergebnis sind beeindruckende 1,77 Petabytes an gemeinsam genutztem, hochbandbreitenfähigem Speicher, der die Leistung von herkömmlichen RAM-Systemen um ein Vielfaches übertrifft.
Die Entwicklung folgt auf die Ankündigung von Microsofts Maia 200, der ein dreifach höheres FP4-Leistungsniveau im Vergleich zum Amazon Trainium von Amazon bietet und die FP8-Performance übertrifft. Der Wettlauf um effiziente KI-Inferenz-Hardware wird also intensiver.
Die Investition in spezialisierte Chips ist kein bloßer Fortschritt, sondern eine strategische Notwendigkeit. google demonstriert damit, dass die Dominanz in der KI-Landschaft nicht nur von den Algorithmen, sondern auch von der Hardware abhängt – und dass die Zukunft der KI-Verarbeitung in hochspezialisierten Lösungen liegt. Ein Rennen, das sich gerade erst beginnt, und bei dem Marvell nun eine Schlüsselrolle einnehmen soll.