Nvidia hat eine Open-Source-Software veröffentlicht, mit der man Privatgeräte daheim zu einem Computing-Netzwerk zusammenschließen kann. Auf dem können laut Nvidia anschließend immer dann Inference-Jobs der hauseigenen lokalen KI laufen, wenn die Geräte gerade nicht anderweitig ausgelastet sind. So soll vorhandene Rechenkapazität in einem Haushalt optimal genutzt werden.

Die Software heißt Personal AI Router (PAIR) und soll geeignete Geräte im Heimnetzwerk automatisch erkennen, eine Verbindung herstellen, mithilfe eines sechsstelligen Codes koppeln und den Kanal anschließend mittels mTLS (Mutual Transport Layer Security) sichern. Alle Geräte, die gerade nicht ausgelastet sind, versorgt es anschließend über diese Verbindung mit Inference-Aufgaben von der lokalen KI. Wenn ein Gerät plötzlich wegfällt, weil zum Beispiel der Nutzer ein rechenintensives Spiel darauf startet, soll das System sich flexibel daran anpassen können.

Nutzergruppe wahrscheinlich eher klein

Die Anwendung ist vor allem für KI-Aufgaben interessant, die sich gut auf mehrere Geräte aufteilen lassen - zum Beispiel agentische Workflows, die komplexe Aufgaben in mehrere Sub-Aufgaben aufteilen können. Die Sortierung der Familienfoto-Datenbank zum Beispiel. Voraussetzung ist natürlich, dass man entsprechende Hardware daheim hat und eine lokale KI betreibt. Deren Leistungsfähigkeit wird mit PAIR dann aber immerhin nicht mehr so stark von der GPU eines einzelnen Heimatgeräts limitiert.

Kompatible Geräte sind vor allem Nvidia GeForce-Grafikkarten (PAIR funktioniert mit Karten der RTX-20-Serie und neuer sowie mit RTX-PRO-Grafikkarten und DGX Spark-Systemen); auch Apples M4-Chips oder neuere Modelle sind kompatibel. Die Beta-Version von Nvidia PAIR ist ab heute verfügbar und unterstützt Windows, Linux und macOS.

Nvidia expandiert auch darüber hinaus immer weiter in den KI-Markt. Neben seinem Kerngeschäft unterstützt es unter anderem Finanzierungsmodelle für Rechenzentren und entwickelt eigene KI-Modelle wie Nemotron 3.5 Lightning.

(rie)