En ce début d'année 2024, les entreprises de tous les secteurs ont pu constater le potentiel de transformation des grands modèles de langage (LLM).

Malgré ce potentiel croissant, les entreprises ont encore du mal à intégrer les LLM dans leurs opérations, principalement en raison de leur coût, de leur complexité, de leur forte consommation d'énergie et de leurs inquiétudes quant à la protection des données.

Les GPU ont toujours été le matériel de prédilection pour les LLM, mais ils entraînent des complications informatiques importantes et des dépenses croissantes qui ne permettent pas de soutenir des opérations en pleine croissance. En outre, en raison de la demande mondiale et des pénuries, les entreprises doivent maintenant attendre plus d'un an pour obtenir des GPU pour leurs projets d'IA.

La plate-forme Numenta pour l'informatique intelligente (NuPIC*) associe des concepts basés sur les neurosciences au jeu d'instructions Intel® Advanced Matrix Extensions (Intel® AMX). Avec NuPIC, il est enfin possible de déployer les LLM à grande échelle sur les processeurs Intel® et d'obtenir des améliorations spectaculaires en termes de prix et de performances.

Téléchargez l'article pour savoir plus.