Perplexity Computer zal deze zomer een belangrijke upgrade inluiden: ondersteuning voor het automatisch toewijzen van taken tussen lokale en cloud-AI-modellen om hybride redeneermogelijkheden te bereiken die privacybescherming en computerprestaties beter in balans brengen.
Perplexity zegt dat Perplexity Computer het agentsysteem van het bedrijf is dat “echt werk voor gebruikers doet” door de orkestratie van verschillende modellen en tools voor het afhandelen van complexe taken te automatiseren. Dankzij nieuwe functies die binnenkort beschikbaar komen, kan het systeem op intelligente wijze schakelen tussen een compact model dat lokaal op het apparaat draait en een krachtiger, geavanceerder model in de cloud, afhankelijk van het type taak en de gegevensgevoeligheid. Volgens de officiële introductie heeft dit ontwerp tot doel om zo lokaal mogelijk te blijven bij het verwerken van gevoelige gegevens, en tegelijkertijd naadloos het cloudmodel aan te roepen wanneer sterke rekenkracht nodig is, waardoor een evenwicht wordt gevonden tussen veiligheid en efficiëntie.
Volgens rapporten zal onder de nieuwe 'hybrid agentic inference'-modus werk met gevoelige inhoud zoals financiële gegevens, gezondheidsinformatie en persoonlijke bestanden prioriteit krijgen door een lokaal klein model dat op het apparaat van de gebruiker draait om te bepalen welke gegevens strikt moeten worden bewaard voor lokale verwerking. Tegelijkertijd zullen taken die geen hoge privacy vereisen, maar een sterkere redenering en capaciteiten met een grote context vereisen, voor uitvoering automatisch worden toegewezen aan geavanceerde modellen in de cloud. Perplexity benadrukt dat de meeste taken in de echte wereld vaak zowel gevoelige als niet-gevoelige delen bevatten, dus splitst het systeem de taak automatisch op in verschillende subtaken en coördineert de planning tussen lokaal en cloud, in plaats van dat gebruikers vooraf moeten kiezen tussen de 'lokale' of 'cloud'-modus.
Perplexity demonstreerde het concept van deze hybride architectuur verder in een video die op een sociaal platform werd uitgebracht. Volgens officiële bronnen zal de hybride AI-orkestratiefunctie in juli officieel worden gelanceerd voor gebruikers van Perplexity Computer.