OpenJarvis propose une alternative locale-first aux agents IA basés sur le cloud

Un nouveau cadre open-source de l'Université Stanford remet en question l'idée que l'IA personnelle doit vivre dans le cloud. OpenJarvis, développé par les laboratoires Hazy Research et Scaling Intelligence, permet aux utilisateurs d'exécuter des agents IA sur leur propre matériel et rend la connectivité cloud optionnelle, non obligatoire.

La version 1.0, publiée aujourd'hui, est livrée avec un support intégré pour Ollama, l'exécuteur de modèles locaux populaire. Le cadre fait partie du programme de recherche plus large "Intelligence Per Watt" des laboratoires, qui se concentre sur l'efficacité de l'IA locale pour gérer des tâches du monde réel sans sacrifier les performances ni épuiser la batterie.

Local-first par conception

La plupart des assistants IA personnels, d'Apple Intelligence à Microsoft Copilot, envoient chaque requête à des serveurs distants, même pour des tâches simples comme rédiger un e-mail ou résumer une réunion. OpenJarvis inverse ce modèle. Par défaut, toute l'inférence s'exécute localement sur la machine de l'utilisateur. Le cloud est disponible comme option supplémentaire, non comme l'épine dorsale.

Le cadre est livré avec une surveillance intégrée qui suit la consommation d'énergie, le coût et la latence en plus de la précision. Cette transparence est un choix de conception délibéré : les utilisateurs peuvent voir exactement ce que chaque requête coûte en watts et en centimes, pas seulement en points de précision.

Démarrage avec Ollama

OpenJarvis se connecte directement à Ollama, qui fonctionne désormais sur macOS, Windows et Linux. Sur macOS et Linux, une seule commande curl détecte l'installation existante d'Ollama et configure le cadre automatiquement. Les utilisateurs Windows peuvent exécuter l'installateur dans WSL2 ou télécharger une application de bureau dédiée.

Une fois installé, l'outil en ligne de commande permet aux utilisateurs de récupérer n'importe quel modèle compatible Ollama et de l'utiliser pour des requêtes. Le cadre prend également en charge la définition d'un modèle par défaut dans un fichier de configuration, rendant l'interface en ligne de commande plus comme un assistant personnel que comme un outil expérimental.

Présélections d'agents prédéfinis

OpenJarvis est livré avec plusieurs présélections d'agents prêts à l'emploi, chacune regroupant les moteurs et outils nécessaires pour une tâche spécifique :

• Briefing matinal, extrait du calendrier, des e-mails et des actualités du jour d'un utilisateur pour générer un résumé. Sur macOS, il se connecte à Google Drive et à la messagerie locale.
• Recherche approfondie, répond à des questions complexes en recherchant sur le web et dans des documents locaux, renvoyant des résultats avec des citations.
• Assistant de codage local, un agent d'écriture de code qui écrit et exécute des scripts Python sur la machine de l'utilisateur pour accomplir des tâches.

Chaque présélection s'initialise avec une commande simple et peut être personnalisée davantage via le système de plugins du cadre.

Concurrence avec les géants du cloud

OpenJarvis entre dans un domaine dominé par les offres cloud d'OpenAI, Google et Microsoft, où l'inférence locale a été traitée comme une fonctionnalité secondaire plutôt qu'un objectif de conception principal. L'accent mis par le cadre sur la transparence et le suivi de l'énergie pourrait séduire les utilisateurs soucieux de leur vie privée, les développeurs travaillant hors ligne et les organisations qui ne peuvent pas envoyer de données à des serveurs tiers pour des raisons de conformité.

Cela dit, l'utilité pratique des agents IA locaux dépend toujours fortement du matériel de l'utilisateur. Exécuter un modèle de 35 milliards de paramètres localement nécessite une machine avec suffisamment de RAM et un GPU performant. Le projet reconnaît cette limitation, et l'expérience de démarrage est plus fluide sur du matériel haut de gamme, mais la conception modulaire du cadre permet aux utilisateurs d'échanger des modèles plus petits pour les tâches quotidiennes et des plus grands uniquement lorsque nécessaire.

OpenJarvis est disponible dès maintenant sous une licence open-source. Le projet est en développement actif, et l'équipe de Stanford prévoit de publier des présélections et intégrations de modèles supplémentaires au cours des prochains mois.