AWS et Hugging Face viennent de tuer le pire aspect du déploiement des modèles d'IA

AWS et Hugging Face ont lancé une intégration en un clic qui envoie les développeurs depuis une page de modèle directement dans SageMaker Studio avec des autorisations et des quotas GPU préétablis. Cela signifie plus de configuration IAM, plus de demandes de quota, plus de navigation entre les tableaux de bord. Les marketplaces d'équipe de Cursor intègrent les…

Les développeurs naviguant sur Hugging Face verront désormais deux nouveaux boutons d'action sur les modèles pris en charge : Personnaliser sur SageMaker AI et Déployer sur SageMaker AI. Cliquer sur l'un ou l'autre ouvre SageMaker Studio avec le modèle présélectionné et l'espace de travail automatiquement provisionné. L'intégration transporte le contexte du modèle via le lien, de sorte que les développeurs n'ont pas à rechercher à nouveau le modèle une fois dans Studio. prompting-a-frontier-model-a-publishers-field-notes-from-the-first-iteration

Pour Mark McQuade, fondateur et PDG d'Arcee AI, ce changement comble une lacune de longue date. Il a déclaré dans un communiqué : « Les poids ouverts que vous possédez, exécutés dans le cloud que vous contrôlez. C'est exactement la combinaison que nos clients demandaient. » Arcee construit des modèles ouverts pour une utilisation en entreprise, et McQuade a noté que le lien direct de Hugging Face vers un environnement AWS sans rien à câbler est le genre d'expérience qui manquait aux modèles ouverts. La révolution de la spécialisation : comment des…

Autorisations gérées à l'avance

L'une des plus grandes sources de friction pour les nouveaux venus sur SageMaker a été la configuration IAM. La nouvelle intégration attache une politique gérée, AmazonSageMakerModelCustomizationCoreAccess, aux nouveaux environnements Studio créés via les liens profonds Hugging Face. La politique accorde des autorisations pour les tâches de personnalisation sans serveur utilisant le réglage fin supervisé, l'optimisation directe des préférences, l'apprentissage par renforcement avec des récompenses vérifiables, et l'apprentissage par renforcement à partir du retour d'IA. Les déploiements peuvent cibler les points de terminaison SageMaker AI ou Amazon Bedrock. Le pari de Microsoft sur les petits modèles pour l'IA…

Pour les environnements Studio existants qui manquent de ces autorisations, des messages exploitables avec des liens directs vers la documentation guident l'utilisateur pour les ajouter.

Visibilité des quotas GPU intégrée à la sélection des instances

Un autre point douloureux que ce lancement aborde est la connaissance des quotas GPU. Lors de la sélection des types d'instances pour le déploiement ou l'entraînement, l'interface utilisateur de Studio affiche désormais la disponibilité des quotas directement dans la liste de sélection des instances. Les développeurs peuvent immédiatement voir si les instances G5 ou G6 sont disponibles sous les limites actuelles de leur compte, sans avoir à naviguer vers le tableau de bord AWS Service Quotas. Si une augmentation de limite est nécessaire, une redirection directe vers la page de quota pertinente est fournie. Le nouvel agent de codage de Cognition atteint des…

La fonctionnalité est disponible dès aujourd'hui. Les développeurs peuvent parcourir les modèles sur Hugging Face, rechercher les boutons Personnaliser sur SageMaker AI ou Déployer sur SageMaker AI, et suivre le flux de connexion simplifié pour atterrir dans un environnement SageMaker Studio entièrement configuré.

L'intégration réduit la charge opérationnelle qui séparait la découverte de modèles ouverts de l'infrastructure de déploiement de niveau entreprise. Pour les équipes qui souhaitent itérer rapidement, le chemin de l'inspiration à l'expérimentation vient de se raccourcir.