Interaction visuelle avec l'IA
Cursor offre aux développeurs un moyen plus intelligent de dire à l'IA quoi corriger : pointer du doigt
Le Design Mode mis à jour de Cursor permet aux ingénieurs et designers de modifier l'interface utilisateur en cliquant sur des éléments, en dessinant sur la page ou en parlant des changements à voix haute, tandis que l'agent IA extrait l'identité de l'élément, ses styles et le contexte de mise en page pour modifier le code. Cette approche accélère l'itération en alignant le rythme du modèle sur la façon dont les humains repèrent et agissent sur les problèmes visuels.

Cursor a mis à jour son Design Mode avec des outils d'interaction visuelle qui permettent aux développeurs de pointer, dessiner ou parler des modifications directement sur une vue en direct du navigateur de leur produit. Cette mise à jour vise à réduire la friction entre ce qu'un humain voit à l'écran et ce qu'un agent IA comprend du code sous-jacent. vibe-coding-works-but-the-technical-debt-nobody-talks-about-could-sink-your-project
Du chat au dialogue spatial
Le chat reste l'interface dominante pour les agents de codage IA, mais le travail de conception est spatial. Les designers, chefs de produit et développeurs frontend communiquent par annotations : pointer vers des éléments, zones ou états de page spécifiques. Le Design Mode de Cursor formalise cela. Au lieu de décrire un changement uniquement avec du texte, l'utilisateur identifie la cible visuelle sur la page, et l'agent extrait automatiquement le contexte de code correspondant. microsofts-bet-on-small-models-for-agentic-ai-is-about-orchestration-not-knowledge
Lorsque l'utilisateur sélectionne un élément, l'agent reçoit deux signaux : l'identité de l'élément, son xpath, le nom du composant, ses attributs, les styles calculés, les props de l'arbre fiber et une capture d'écran pour le contexte spatial, la disposition, les éléments environnants et l'état exact de la page. L'agent utilise ces signaux pour trouver la source et appliquer le changement.
Trois méthodes d'entrée pour une seule intention
Le Design Mode offre plusieurs façons de communiquer l'intention :
- Sélectionner un ou plusieurs éléments. Cela permet des modifications qui dépendent des relations entre les composants, aligner des éléments, supprimer du contenu en double ou ajuster un groupe ensemble.
- Dessiner sur la page pour marquer une région, encadrer une section ou délimiter une zone animée. L'annotation superpose une image figée du viewport, afin que l'agent voie l'état exact de la page au moment de l'instruction.
- Parler une modification. Les commandes vocales permettent à l'utilisateur de décrire le changement tout en sélectionnant la cible visuelle.
Pointer et narrer ensemble reflètent la façon dont les équipes examinent déjà les conceptions dans les pull requests ou les outils de conception collaboratifs. Mais maintenant, la boucle entre la détection d'un problème et l'application du correctif est raccourcie parce que le modèle opère directement sur le produit en cours d'exécution.
Mettre le modèle en phase avec le flux de travail
Le Design Mode est conçu pour un flux multitâche. Un utilisateur peut pointer vers un élément, décrire le changement, se déplacer vers une autre partie de la page et soumettre une autre modification avant que la précédente ne soit terminée. Cursor exécute plusieurs sous-agents en arrière-plan, rechargeant à chaud l'application au fur et à mesure que chaque tâche est terminée. why-parallel-agents-are-the-next-battleground-for-ai-orchestration
Cursor recommande Composer 2.5 pour ce flux de travail, le qualifiant à la fois de rapide et efficace pour le travail d'interface utilisateur. La capacité du modèle à apporter des modifications ciblées et limitées correspond au modèle d'itération rapide que le Design Mode permet.
"Nous croyons que l'avenir du développement logiciel permettra aux utilisateurs de passer fluidement entre des niveaux d'abstraction plus élevés et des détails de bas niveau, en restant dans un état de flux quand ils le souhaitent," a écrit l'entreprise dans son annonce.
Implications pour le développement frontend
L'annotation visuelle comme mécanisme de contrôle pour les agents IA peut sembler une petite amélioration de l'expérience utilisateur, mais elle change la façon dont les développeurs interagissent avec les modèles de codage. Les interfaces d'agent traditionnelles reposent sur la capacité de l'utilisateur à articuler les modifications de code en langage naturel. Cela fonctionne pour les changements fonctionnels mais est imprécis pour les ajustements visuels : décrire un changement d'espacement de 4 pixels ou une ombre de boîte spécifique nécessite soit une mesure, soit des captures d'écran que l'agent peut analyser.
En donnant à l'agent à la fois l'identité de l'élément et son contexte spatial, Cursor réduit l'ambiguïté dans les demandes de modification visuelle. L'utilisateur n'a pas besoin de traduire une observation spatiale en texte. L'annotation elle-même porte le sens.
L'interaction spatiale comme nouveau paradigme
Le Design Mode n'est pas le premier outil à offrir des boucles de rétroaction visuelle pour le codage IA. L'espace de travail de GitHub Copilot et Ghostwriter de Replit ont expérimenté des fenêtres de contexte incluant des arborescences de fichiers et des sélections dans l'éditeur. Mais l'approche de Cursor diffère de deux manières : elle opère sur le produit en direct et en cours d'exécution plutôt que sur du code dans une arborescence de fichiers, et elle traite la vue du navigateur comme une surface éditable où l'entrée visuelle de l'utilisateur est analysée en signaux structurés pour l'agent. cursor-expands-team-marketplaces-with-mcp-servers-and-org-group-access
Ce flux de travail spatial basé sur les annotations pourrait s'avérer précieux pour les équipes où des non-développeurs, designers ou chefs de produit, initient ou examinent les modifications frontend. Si un designer peut entourer une zone sur la vue du navigateur et dire "rends cette section plus étroite" sans ouvrir un chat textuel, la barrière pour déléguer des modifications de code à un agent diminue considérablement. the-migration-isnt-finished-until-the-build-server-says-it-is-why-ai-agents-keep-failing-at-enterprise-java
Que cela réduise le nombre de cycles de transfert entre la conception et l'ingénierie, ou simplement déplace le goulot d'étranglement, dépend de la fiabilité avec laquelle l'agent interprète les annotations et du degré de confort des équipes avec les modifications d'interface utilisateur pilotées par un agent. La mise à jour de Cursor parie que la réponse est plus visuelle et moins textuelle.
Le Design Mode est disponible dès maintenant dans la fenêtre de l'agent Cursor. L'entreprise a publié une documentation pour la fonctionnalité Browser et a rendu la dernière version de l'éditeur disponible en téléchargement.