Anthropic met à jour sa politique d'utilisation : nouvelles règles pour les applications d'IA à haut risque

Anthropic a officiellement mis à jour sa politique d'utilisation, établissant un cadre complet qui régit la manière dont ses modèles d'IA, y compris la famille Claude, peuvent être utilisés dans les applications grand public et d'entreprise. La politique, qui prend effet immédiatement, classe les restrictions en trois niveaux : normes d'utilisation universelles, exigences pour les cas d'utilisation à haut risque et directives supplémentaires pour les cas d'utilisation.

Interdictions universelles

Les normes d'utilisation universelles s'appliquent à tous les utilisateurs et couvrent un large éventail d'activités interdites. Les usages prohibés incluent la création ou la distribution de matériel d'abus sexuel sur enfants (CSAM), y compris le contenu généré par l'IA ; le développement d'armes, d'explosifs ou de matériaux dangereux ; et la conception d'outils pour un accès non autorisé à des systèmes ou à des données, tels que des logiciels malveillants, des ransomwares ou des botnets. La politique interdit également la génération de contenu politique trompeur, de médias synthétiques de personnalités politiques, ou de campagnes automatisées de ciblage et de suppression des électeurs.

De plus, la politique interdit l'utilisation des modèles d'Anthropic pour usurper l'identité d'humains dans des contextes où un utilisateur serait induit en erreur en croyant interagir avec une personne. Cela inclut la présentation de sorties générées par l'IA comme étant générées par un humain sans divulgation.

Les domaines à haut risque nécessitent une supervision

Une mise à jour significative est l'introduction de garanties obligatoires pour ce qu'Anthropic appelle les cas d'utilisation à haut risque, des domaines où les décisions pilotées par l'IA peuvent avoir un impact direct sur les individus ou l'équité sociale. Ceux-ci incluent les conseils juridiques, les diagnostics médicaux, la souscription d'assurance, les conseils financiers, le filtrage des emplois, l'éligibilité au logement et les tests académiques. Dans chacun de ces domaines, Anthropic exige qu'un professionnel humain qualifié examine tous les conseils ou décisions générés par l'IA avant qu'ils ne soient finalisés ou diffusés. En outre, l'utilisateur doit divulguer aux consommateurs finaux que l'IA est utilisée pour aider à produire le conseil ou la recommandation, au moins au début de chaque session.

« Nous croyons que l'expertise humaine pertinente doit être intégrée et que les utilisateurs finaux doivent être informés lorsque l'IA a été impliquée dans la production de résultats », a déclaré l'entreprise dans la politique.

Directives pour les chatbots et les agents

Anthropic précise également que tous les chatbots destinés aux consommateurs et les agents interactifs d'IA doivent divulguer aux utilisateurs qu'ils interagissent avec une IA plutôt qu'avec un humain. Cette divulgation doit avoir lieu au début de chaque session de chat. La politique aborde en outre les cas d'utilisation agentiques, notant que ces applications doivent toujours se conformer à toutes les interdictions de la politique d'utilisation, avec des exemples spécifiques attendus dans un futur article du Centre d'aide.

Pour les produits destinés aux mineurs, Anthropic exige le respect de directives supplémentaires qui seront détaillées prochainement, et tout serveur Model Context Protocol (MCP) répertorié dans le répertoire de connecteurs de l'entreprise doit adhérer à sa politique de répertoire.

Application et signalement

L'équipe de sauvegarde d'Anthropic mettra en œuvre des systèmes de détection et de surveillance pour appliquer la politique. Les violations peuvent entraîner un ralentissement, une suspension ou une résiliation de l'accès aux produits et services d'Anthropic. L'entreprise a déclaré qu'elle pourrait également bloquer ou modifier les sorties du modèle lorsque les entrées violent la politique. Les utilisateurs qui pensent que les sorties du modèle sont potentiellement inexactes, biaisées ou nuisibles sont encouragés à signaler le problème via usersafety@anthropic.com ou en utilisant les mécanismes de retour d'information intégrés au produit.

La politique note qu'Anthropic peut conclure des accords contractuels adaptés avec certains clients gouvernementaux pour tenir compte de leur mission publique si les restrictions contractuelles et les garanties atténuent suffisamment les préjudices.

Implications stratégiques

La politique mise à jour reflète une tendance industrielle plus large vers une gouvernance plus structurée du déploiement de l'IA, en particulier dans les secteurs réglementés. En exigeant une supervision humaine et une divulgation dans les applications à enjeux élevés, Anthropic positionne Claude comme un outil d'augmentation plutôt que de prise de décision autonome. La politique signale également un resserrement des usages acceptables dans les contextes politiques et électoraux, conformément à la surveillance réglementaire et publique croissante autour de la désinformation générée par l'IA. L'entreprise continue d'itérer sur ses cadres de sécurité à mesure que ses modèles sont déployés dans des domaines de plus en plus sensibles.