Au fil des mois, ChatGPT connait une popularité grandissante. L'outil IA de OpenAI est de plus en plus performant, et semble avoir réponse à (presque) tout. Les utilisateurs peuvent s'en servir pour rédiger des textes, des lettres, ou encore répondre à des questions scientifiques, ou tout simplement créer des scripts. Bien entendu, cela a attiré l'attention du PDG de SpaceX et milliardaire excentrique Elon Musk. Il y a peu, il a présenté son outil xAI au monde entier. Annoncé comme un outil qui nous permettra de "connaître la vérité sur l'univers", xAI est devenu l'une des nouvelles obsessions de Musk, et celui-ci aurait grandement investi dans son outil : Colossus !
Colossus, le monstre à plusieurs millions de dollars
Le milliardaire canadien a choisi de lancer un supercalculateur appelé Colossus à travers sa startup, c'est pourquoi cette plateforme disposera d'un système conçu pour entraîner GROK, le modèle de langage que X utilise déjà. Il s'agit d'un énorme projet IA, qui est alimenté par 100 000 GPU NVIDIA H100 , un chiffre qui fait de ce système l'un des plus puissants au monde. Dans les mois à venir, Elon Musk compte bien se pencher sur sa création en y ajoutant 50 000 puces NVIDIA H200 supplémentaires. Les GPU H100 de base coûteraient déjà entre 20 000 et 90 000 euros par unité, un coût de 2 000 millions d'euros uniquement pour la première phase de ce projet (non amélioré). En plus de cela, il est important de prendre en compte tous les coûts pour Colossus, qui incluent également le prix des centres de données, de l'infrastructure, le personnel ou la configuration pour former un modèle de langage avancé. Selon Elon Musk, Colossus pourrait bien devenir le système d'entrainement à l'IA le plus puissant au monde, devant le célébrissime ChatGPT.
Colossus fait ses preuves sur X
Il y a seulement quelques semaines, xAI a lancé GROK-2 pour les abonnés du réseau social X (Twitter). Selon certaines mesures, GROK-2 se classe en deuxième position, juste derrière ChatGPT-4o, dans le classement des LLM, les meilleurs modèles d'intelligence artificielle. GROK-2, la version précédente du modèle de langage, utilisait 15 000 GPU H100, un chiffre qui en faisait déjà l'un des modèles de langage les plus avancés au monde. Avec Colossus, jusqu'à sept fois plus puissant que GROK-2, GROK-3 devrait pouvoir doubler sa puissance en quelques mois seulement et ainsi gagner des places dans le classement LLM. Elon Musk espère que la nouvelle version de son modèle de langage sera disponible d'ici décembre, comme il l'a mentionné au cours d'un podcast avec Jordan Peterson. Une chose est sûre, les utilisateurs X (Twitter) ont hâte de voir ce que cette nouvelle version de GROK pourra accomplir. Néanmoins, l'initiative du PDG de X sera très problématique pour l'environnement, puisque son invention consommera 150 mégawatts d'énergie et jusqu'à un million de gallons d'eau par jour rien que pour son refroidissement. Colossus pourrait être un grand progrès pour l'intelligence artificielle, mais il n'en sera pas moins totalement désastreux pour l'écologie !