Praxistests zeigen, dass RDMA über Thunderbolt 5 in macOS Tahoe 26.2 die Speicherressourcen mehrerer Macs bündelt und so große KI-Modelle ermöglicht.
- In macOS Tahoe 26.2 ermöglicht ein neuer Treiber mit Thunderbolt-5-Unterstützung RDMA (Remote Direct Memory Access) für Mac-Cluster.
- RDMA erlaubt es den Prozessoren in einem Cluster, direkt auf den kombinierten Arbeitsspeicher aller angeschlossenen Macs zuzugreifen, ohne den CPU des anderen Rechners stark zu belasten.
- In einem Praxistest mit vier per Thunderbolt 5 verketteten Mac Studio M3 Ultra konnte so ein gemeinsamer Speicherpool von 1,5 Terabyte genutzt werden.
- Tests mit dem RDMA-fähigen Tool Exo zeigten bei großen Sprachmodellen wie Qwen3 235B eine deutliche Leistungssteigerung, wenn mehrere Knoten genutzt wurden.
- Ohne RDMA (getestet mit Llama.cpp) sank die Leistung bei Hinzunahme weiterer Knoten hingegen.
- Die Technologie ermöglicht es Forschern, extrem große KI-Modelle zu nutzen, die den Arbeitsspeicher eines einzelnen Macs übersteigen.
- Aktuelle Einschränkungen sind die Notwendigkeit, die Macs per Daisy-Chaining zu verbinden, sowie Stabilitätsprobleme in der Vorabsoftware.
Quelle: AppleInsider
Hinweis: Dieser Artikel wurde mithilfe von KI erstellt.
