Přeskočit na obsah
Tech-Blog Chatujme.cz Chatujme.cz

Umělá inteligence ·

Beta PAIR od Nvidie rozděluje dotazy na jazykové modely mezi počítače v domácí síti

Nvidia na veletrhu IFA v Berlíně představila Personal AI Router, zkráceně PAIR: otevřený program, který si na domácí síti najde počítače s grafikami GeForce RTX, stanice DGX Spark i Macy s čipy M4 a každý dotaz na lokální jazykový model pošle na ten, který má zrovna volno. Jeden model neběží na víc strojích naráz, dělí se jen fronta dotazů, takže nejvíc to pomůže agentům, kteří práci rozkládají na dílčí úkoly.

Umělá inteligence NVIDIA jazykové modely Ollama