Micron stellt 192-GB-SOCAMM2-Modul für energieeffiziente KI-Rechenzentren vor
Micron Technology hat mit dem 192-GB-SOCAMM2 sein bislang kapazitätsstärkstes Low-Power-DRAM-Modul vorgestellt. Das neue Modul basiert auf Microns fortschrittlicher 1-Gamma-DRAM-Prozesstechnologie und bietet laut Unternehmen eine über 20 % bessere Energieeffizienz – ein wichtiger Faktor für die Optimierung großer KI-Rechenzentrumscluster.
Die zweite Generation der SOCAMM-Speichermodule (Small Outline Compression Attached Memory Module) liefert 50 % mehr Kapazität im selben kompakten Formfaktor und soll die Nutzung von Low-Power-Speichertechnologien im KI-Umfeld weiter vorantreiben. Im Vergleich zu bisherigen Lösungen kann SOCAMM2 die Time-to-First-Token (TTFT) bei Inferenz-Workloads um über 80 % reduzieren.
In KI-Racks, die oft mehr als 50 TB an CPU-angebundenem LPDRAM enthalten, können die Energieeinsparungen besonders groß ausfallen. Die modulare Bauweise des SOCAMM2 erleichtert zudem die Wartung und ermöglicht zukünftige Kapazitätserweiterungen.
Micron verweist auf seine fünfjährige Zusammenarbeit mit NVIDIA, durch die das Unternehmen den Einsatz von Low-Power-Server-Speicher im Rechenzentrum entscheidend vorangetrieben hat. SOCAMM2 bringt dabei die Vorteile von LPDDR5X – hohe Bandbreite bei extrem geringem Energieverbrauch – als Hauptspeicher in KI-Systeme.
Das Modul ist speziell für massive KI-Kontextmodelle entwickelt und liefert die Bandbreite und Energieeffizienz, die moderne Trainings- und Inferenzsysteme benötigen.
„AI-Workloads werden immer komplexer, und Rechenzentrumsserver müssen effizienter werden – mehr Tokens pro Watt“, sagte Raj Narasimhan, Senior Vice President und General Manager von Microns Cloud Memory Business Unit. „SOCAMM2 bietet die nötige Datenrate, Energieeffizienz und Kapazität, um die nächste Generation von KI-Servern zu unterstützen.“
Durch spezielle Design-Features und erweiterte Testverfahren entwickelt Micron seine Low-Power-DRAM-Technologie – ursprünglich für Smartphones gedacht – zu einer Lösung auf Data-Center-Niveau weiter.
SOCAMM2 erreicht mehr als doppelt so hohe Energieeffizienz wie vergleichbare RDIMMs, benötigt jedoch nur ein Drittel der Baugröße. Das optimiert den Rechenzentrums-Footprint und ermöglicht kompaktere, leistungsstärkere und effizientere Serverdesigns – einschließlich flüssigkeitsgekühlter Systeme.