Le succès de ChatGPT n’est plus à prouver, avec plus de 186 millions d’utilisateurs uniques sur le mois de mars. Toutefois, cette popularité a un coût. Selon des analystes chez SemiAnalysis, le coût d’exploitation de ChatGPT pourrait atteindre 700 000 dollars par jour. Cela s’explique principalement par l’infrastructure technologique utilisée pour faire fonctionner cette IA générative. ChatGPT nécessite une énorme puissance de calcul sur des « serveurs coûteux » pour répondre aux requêtes des utilisateurs.
Il est à noter que ce coût est une estimation basse car elle prend en compte le modèle GPT-3 et non GPT-4. Il faut également prendre en compte le coût de formation des modèles de langage qui améliorent le robot conversationnel, qui pourrait coûter des dizaines de millions de dollars.
Pour résoudre ce problème de coût, Microsoft travaille sur une puce dédiée à l’IA, nommée Athena. Ce projet secret est en développement depuis 2019 et pourrait faire l’objet d’un usage interne par Microsoft et OpenAI dès l’année prochaine. Plus de 300 employés de Microsoft travaillent activement sur le développement de la puce.
Pour rappel, Google pourrait craindre pour sa situation de leader de la recherche en ligne si les modèles de langage tels que ChatGPT étaient directement intégrés dans les moteurs de recherche. Cela pourrait coûter jusqu’à 30 milliards de dollars de profits à la firme de Mountain View. Toutefois, pour prendre la place de leader, il faudrait mettre en place une infrastructure conséquente, et cela aurait un coût.
En définitive, bien que ChatGPT ait connu un succès fulgurant, son coût d’exploitation est élevé et nécessite des investissements massifs pour continuer à fonctionner à grande échelle. Les entreprises travaillent sur des solutions pour réduire ces coûts et améliorer leur rentabilité.
