La propriété intellectuelle d'interconnexion d'Arteris est déployée dans le serveur d'inférence de Neureality pour les applications d'IA générative et de modèles de langage à grande échelle
Le 10 octobre 2023 à 22:30
Partager
Arteris, Inc. a annoncé que NeuReality a déployé l'IP d'interconnexion FlexNoC d'Arteris dans le cadre du serveur d'inférence sur puce adressable par le réseau NR1 afin d'offrir un rendement élevé et des améliorations perturbatrices en matière de coûts et de consommation d'énergie pour le calcul de l'apprentissage automatique et profond dans ses produits d'inférence de l'IA. Cette intégration est architecturée dans un NoC à 8 hiérarchies avec une bande passante agrégée de 4,5 To/s, répondant aux exigences de faible latence pour l'exécution d'applications d'IA à l'échelle et à moindre coût. Le serveur d'inférence de NeuReality cible l'IA générative, les grands modèles de langage (LLM) et d'autres charges de travail d'IA.
Le serveur sur puce innovant NR1 de NeuReality est la première unité de traitement adressable par le réseau (NAPU), qui est un dispositif matériel optimisé pour le flux de travail avec des unités de traitement spécialisées, un réseau natif et des capacités de virtualisation. Elle offre une mise en réseau native de l'IA sur la structure, y compris une décharge complète du pipeline de l'IA et des capacités d'hyperviseur de l'IA basées sur le matériel. La capacité de décharger les CPU, les GPU et même les accélérateurs d'apprentissage profond sur plusieurs puces NR1 est ce qui permet au serveur d'inférence de NeuReality de fournir effectivement jusqu'à 10 fois la performance avec moins de consommation d'énergie et à une fraction du coût dans son serveur d'inférence.
Arteris, Inc. est un fournisseur de systèmes semi-conducteurs de propriété intellectuelle, y compris d'interconnexion et d'autres propriétés intellectuelles (collectivement, la technologie System IP). Sa technologie System IP gère les communications sur puce et les déploiements de blocs IP dans les systèmes sur puce (SoC) et les systèmes de chiplets. La société fournit des solutions IP d'interconnexion de semi-conducteurs et des logiciels d'automatisation de l'intégration des systèmes sur puce (SIA) pour servir ses marchés finaux cibles, notamment l'automobile, l'informatique d'entreprise, l'électronique grand public, les communications avec et sans fil, et les segments industriels. Son portefeuille de produits IP pour semi-conducteurs comprend des IP NoC non cohérentes, avec FlexNoC et FlexWay, des IP NoC à cohérence de cache, avec Ncore, et des IP de cache de dernier niveau, avec CodaCache. Sa suite technologique SIA, composée des produits Magillem et CSRCompiler, couvre les capacités clés de l'automatisation de l'intégration des circuits intégrés et de l'accélération globale du développement des circuits intégrés. Le produit de connectivité Magillem raccourcit et rationalise le processus d'intégration des circuits intégrés.
La propriété intellectuelle d'interconnexion d'Arteris est déployée dans le serveur d'inférence de Neureality pour les applications d'IA générative et de modèles de langage à grande échelle