Nvidia kopplar ihop hemmadatorer till ett AI‑inferenceskluster med PAIR

Nvidia släppte den 3 september 2026 betaversionen av Personal AI Router (PAIR), fri öppen källkod‑programvara som kopplar ihop kompatibla datorer i ett hemnätverk till ett enda kluster för lokal AI‑inferenz, och dirigerar förfrågningar från agentarbetsbelastningar till de maskiner som är tillgängliga.

Trots namnet är PAIR varken en hårdvarurouter och inte en ny inferensmotor. Enligt Nvidias tekniska blogginlägg som presenterar programvaran kör motorer som Ollama och LM Studio fortfarande varje modell på en vald maskin, medan PAIR upptäcker deltagande system, kontrollerar om varje system är redo för en förfrågan, schemalägger oberoende jobb och returnerar varje svar till den applikation som initierade det.

Vad betaversionen stödjer

PAIR‑betan körs på Windows 11, Linux och macOS, med x64‑ och arm64‑arkitekturer som stöds på samtliga tre operativsystem; projektets dokumentation beskriver Windows på ARM som experimentellt. Nvidias produktsida listar den stödjade hårvaran som alla GeForce RTX‑GPU:er från 20‑serien och framåt, DGX Spark‑ och GB10‑system samt Mac‑datorer med Apple M4‑chip eller nyare, tillsammans med minst 8 GB RAM och 20 GB eller mer rekommenderat diskutrymme. Det tekniska blogginlägget nämner dessutom RTX PRO‑arbetsstations‑GPU:er på Turing‑arkitekturen och nyare.

Ingen internetanslutning krävs för att använda programvaran, men en behövs för att ladda ner modeller. Produktsidan anger att uppsättning av ett kluster inte kräver några speciella kablar eller rack: användare laddar ner programvaran, lägger till sina enheter och kör sina AI‑applikationer genom den. Nvidia publicerar PAIR‑källkoden under Apache License 2.0, och säger att utvecklare kan granska koden, rapportera problem och bidra med förbättringar av upptäckt, ihopparning, routing, motorintegration, slutpunkter och användarupplevelsen.

Routing utan att poola GPU:er

Nvidia beskriver PAIR som en virtuell inferensrouter snarare än ett sätt att slå ihop hårdvara. Varje förfrågan tilldelas en enda behörig nod och stannar där under hela sin livstid; programvaran poolar inte GPU‑minne, kombinerar inte GPU:er till en större logisk accelerator, delar inte en enda modell över flera maskiner eller delar en pågående inferensförfrågan mellan noder.

Applikationer ansluter via Ollama‑kompatibla och OpenAI‑kompatibla proxy‑slutpunkter, som PAIR skapar genom att ta över standardportarna som de två motorerna använder. Nvidia säger att detta innebär att agent‑härmar kan fortsätta använda det gränssnitt de redan förstår, utan någon ny kluster‑API att integrera. En nod blir berättigad för en förfrågan endast när en stödjad motor är aktiverad på den och den exakt begärda modellen finns där, och PAIR föredrar noder som den redan vet innehåller modellen. Modeller behöver inte vara identiska i hela klustret; att ladda samma modell‑tagg på fler noder ger schemaläggaren en större pool av behöriga noder.

För varje ny förfrågan väger schemaläggaren om en ihopparad nod är online och redo, om en stödjad motor är aktiverad, om den begärda modellen finns, den aktuella arbetsbelastningen inklusive aktiva jobb, samt befintlig GPU‑användning såsom en grafikintensiv applikation som körs. Noder kan bidra med kapacitet när de är tillgängliga och dra sig tillbaka när de behövs, exempelvis när en bärbar dator går i viloläge, stängs av eller lämnar nätverket.

Upptäckt, säkerhet och integritet

Efter installation använder PAIR lokalt nätverksupptäckt via mDNS för att automatiskt hitta närliggande system, och en nod kan även läggas till via IP‑adress. Att para ihop två maskiner sker med en sexsiffrig PIN‑kod som visas på den inbjudande maskinen och matas in på den inbjudna. Nvidia uppger att all nod‑till‑nod‑kommunikation blockeras tills den säkra ihopparningen är etablerad, varefter trafiken säkras med MTLS och genererade certifikat. Företaget positionerar programvaran för privat lokal inferens, där prompts, filer och agentkontext förblir på användarens hemnätverk istället för att skickas till en molnbaserad inferenstjänst. Arkivets dokumentation varnar användare att läsa säkerhetsnoteringarna innan PAIR distribueras på ett opålitligt eller delat nätverk, eftersom den innehåller lokala HTTP‑slutpunkter, LAN‑upptäckt och klusternätverk.

Målarbetload och en inofficiell demo

Nvidia säger att PAIR är avsedd för arbetsbelastningar som genererar många oberoende förfrågningar samtidigt, såsom multi‑agent‑applikationer där en huvudagent delar upp en komplex uppgift i mindre jobb för underagenter. I en demonstration med Hermes Desktop‑agenten och Ollama rapporterade företaget att en fem‑underagent‑uppgift som använde Qwen 3.6 35B A3B‑modellen tog i genomsnitt 18 minuter på en enskild RTX Spark‑laptop, medan ett tre‑enhets‑PAIR‑kluster bestående av en RTX Spark‑laptop, en DGX Spark och en RTX 5090 slutförde samma arbetsbelastning på i genomsnitt 8 minuter och 48 sekunder. Nvidia karakteriserade resultatet som en inofficiell, konfigurationsspecifik demonstration snarare än ett generellt benchmark eller ett löfte om linjär skalning, och påpekade att resultaten beror på arbetsbelastningens parallellism, modell, motorinställningar, hårdvara, nätverk och nodtillgänglighet.

Företaget sade att starkt sekventiella uppgifter, arbetsbelastningar dominerade av ett långt modell‑anrop, eller konfigurationer där endast en nod har den begärda modellen kan ge mindre nytta. Arkivets dokumentation tillägger att programvaran för närvarande levereras med en enda schemaläggningspolicy som kombinerar köat arbete med en grov GPU‑användningssignal, vilket gör den bättre lämpad för liknande maskiner än för ett starkt blandat kluster, och att Nvidia önskar feedback för att göra schemaläggaren smartare utan fasta åtaganden om vad som kommer att levereras eller när.

Källor från originalartikeln: developer.nvidia.com [1] · nvidia.com [2] · unite.ai [3] · github.com [4]