GPUs partitionieren mit Nvidia MIG
Nvidias Multi-Instance GPU teilt eine physische GPU in voneinander getrennte Recheninstanzen auf. Vor allem für sensible und externe KI-Workloads ist das praktisch, um sie auf derselben Karte zu betreiben, ohne Ressourcen und Speicherbereiche gemeinsam zu nutzen. Allerdings müssen Netzwerk, Datenflüsse und Orchestrierung die Sicherheitsgrenzen ebenfalls durchsetzen.
Lokale KI auf Enterprise-Niveau steht vor einem Zielkonflikt: Man möchte teure GPU-Ressourcen maximal auslasten, aber auch Workloads strikt voneinander isolieren. Das betrifft besonders Behörden, Krankenhäuser und Unternehmen mit hohen Sicherheitsanforderungen. Vertrauliche Daten dürfen geschützte Bereiche nicht verlassen, während weniger kritische Aufgaben flexibel skalieren sollen.
Klassische Virtualisierung kommt hier an ihr Limit, denn sie trennt Prozesse nur logisch, schafft aber keine festen Grenzen für alle GPU-Ressourcen. Nvidia Multi-Instance GPU (MIG) setzt eine Ebene tiefer an. Die Technik partitioniert eine physische GPU, zum Beispiel aus der A100- oder H100-Familie, in mehrere Hardwareinstanzen. Jede MIG-Instanz verfügt über eigene Streaming-Multiprozessoren (SMs), einen eigenen Anteil am L2-Cache und eine eigene HBM-Speicherbandbreitenzuteilung. Eine Workload arbeitet damit innerhalb eines fest abgegrenzten GPU-Slice. Andere Instanzen greifen nicht auf diese Ressourcen zu und können keine Daten austauschen.
