Amazon défie Nvidia avec le nouvel outil TorchNeuron

L'expansion rapide de l'intelligence artificielle générative a créé une forte dépendance envers les processeurs graphiques haut de gamme. Nvidia est parvenu à s'imposer grâce à son environnement logiciel CUDA, qui verrouille l'utilisation des bibliothèques de machine learning sur son propre matériel. Pour réduire les coûts d'infrastructure, les grands fournisseurs de services cloud développent leurs propres puces. Amazon Web Services franchit une étape importante en lançant TorchNeuron, une interface permettant de faire fonctionner du code PyTorch sur les processeurs Trainium.

PyTorch est aujourd'hui la plateforme la plus populaire pour la création et le déploiement de modèles d'apprentissage profond. Jusqu'à présent, la migration d'une application entraînée sur des processeurs Nvidia vers une autre architecture demandait des efforts d'adaptation considérables. TorchNeuron s'appuie sur les mécanismes d'extension natifs de PyTorch, permettant un changement de cible matérielle par simple modification de la configuration. Cela simplifie le travail des ingénieurs et permet de tester des alternatives économiques sans bloquer les projets.

Sur le plan opérationnel, la puce Trainium est conçue pour gérer à la fois l'entraînement des modèles et leur mise en production. Cette approche unifiée améliore le rendement financier des infrastructures cloud pour les entreprises du secteur de l'IA. Par ailleurs, Amazon s'est engagé à verser ses modifications à la communauté open source pour rendre PyTorch plus indépendant vis-à-vis des fabricants de puces.

Même si TorchNeuron réduit considérablement la friction, les logiciels s'appuyant sur des extensions CUDA spécifiques devront encore faire l'objet de portages manuels. De plus, Trainium reste une solution propre à l'écosystème AWS. Néanmoins, la possibilité de basculer facilement d'un processeur à un autre constitue un tournant majeur pour la concurrence dans le secteur du matériel informatique.