Im Rahmen der AI Factory HammerHAI hat das HLRS gemeinsam mit Seedbox.AI, HPE und AMD die erste Benchmark-Studie zur APU des Typs Instinct MI300A von AMD im Training großer Sprachmodelle durchgeführt. Getestet wurde die innovative Hybridarchitektur – CPU, GPU und High-Bandwidth Memory in einem Baustein – auf dem APU-basierten HLRS-Supercomputer Hunter. Zum Einsatz kam ein multilingual ausgelegtes Sprachmodell mit einem Trainingsdatensatz von 20 Mrd. Token. Dank einer optimierten Speichernutzung ließ sich die Trainingsleistung nahezu linear auf bis zu 256 APUs skalieren. Ergänzt wurde der Test von der Methode „SimplePrune“ von Seedbox.AI, mit der sich energieeffiziente Trainingsprozesse realisieren lassen. Trotz deutlich reduziertem Modellumfang konnten dabei Ergebnisse auf dem Niveau herkömmlicher Modelle erzielt werden. Die Studie zeigt das Potenzial europäischer Infrastrukturen für KI-Anwendungen – unabhängig von außereuropäischen Cloud-Anbietern. Weitere Informationen: hlrs.de/de/news/detail/erste-benchmark-studie-der-amd-mi300a-apu-fuer-das-training-grosser-sprachmodelle .