En 2006, Jensen Huang a annoncé CUDA — un framework de programmation qui permet aux développeurs d’écrire des logiciels à usage général pour les puces graphiques de NVIDIA.
Les analystes étaient perplexes. NVIDIA fabriquait des GPU pour les gamers et les développeurs de jeux. Pourquoi une entreprise de puces pour le jeu vidéo investirait-elle des centaines de millions dans la création d'une plateforme logicielle destinée… aux scientifiques ?
Pendant cinq ans, presque personne en dehors de quelques départements de physique ne l'a utilisé. Jensen a continué de le financer malgré tout.
Puis vint 30 septembre 2012.
Alex Krizhevsky et Geoffrey Hinton ont soumis AlexNet au concours ImageNet Large Scale Visual Recognition Challenge. Leur réseau de neurones a remporté la compétition avec une avance de 10 points de pourcentage — un écart sans précédent dans un domaine où les progrès se mesuraient en fractions de point de pourcentage.
Il fonctionnait sur deux GPU NVIDIA GTX 580, en utilisant CUDA. L'ère du deep learning était lancée, et NVIDIA était la seule entreprise à disposer déjà de l'infrastructure nécessaire pour la soutenir.
C'était le moment. Tout ce qui vient après n'est que des mathématiques.
Aujourd'hui, NVIDIA fournit environ 95 % des puces utilisées pour entraîner les modèles d'IA de pointe. Les GPU H100 se vendent entre 30 000 $ et 40 000 $ pièce. Au plus fort de la demande, les délais de livraison ont atteint 52 semaines. Les hyperscalers faisaient venir leurs cadres à Taïwan en avion pour négocier personnellement l'attribution des ressources.
La capitalisation boursière de NVIDIA a atteint 3 300 milliards de dollars en 2024 — dépassant Saudi Aramco, Apple pendant un bref moment, et même l'ensemble du PIB de la France. C’est l’entreprise la plus importante au monde, et pourtant la plupart des gens n’auraient pas pu la nommer il y a cinq ans.
La leçon ne concerne pas uniquement les puces.
Pendant des années, Jensen a maintenu son pari sur CUDA, sans aucun retour. Le pari n’était pas « Les GPU seront utilisés pour l’IA ». Le pari était : Le calcul parallèle deviendra la ressource limitante pour la prochaine vague informatique, et nous serons les seuls à être prêts.
Pendant longtemps, être en avance et se tromper se ressemblent comme deux gouttes d'eau. La seule façon de les distinguer, c'est d'être encore là lorsque le monde aura rattrapé son retard.
Jensen était toujours là.