NVIDIA išleido Personal AI Router 1.0.0 su llama.cpp ir Claude Code palaikymu

NVIDIA išleido Personal AI Router (PAIR) 1.0.0 versiją. Atnaujinimas papildytas llama.cpp palaikymu ir gali priimti užklausas Anthropic Messages API formatu, todėl prie tokio klasterio galima prijungti Claude Code.

PAIR skirtas sujungti suderinamus kompiuterius tame pačiame vietiniame tinkle. Taip galima paskirstyti užklausų apdorojimą tarp suporuotų įrenginių.

Pranešama, kad naujoji versija taip pat leidžia dirbti per Ollama ir LM Studio. Pavyzdyje rodoma, kaip su Windows 11 veikiančiuose dviejuose kompiuteriuose įdiegti PAIR, įkelti modelį ir sujungti sistemas į AI klasterį.