Puissance de calcul devient un nouveau mode de service, la transformation apportée par la vague des grands modèles
Récemment, la demande pour l'entraînement de grands modèles a explosé, et les GPU haut de gamme sont en pénurie, devenant un sujet d'actualité dans l'industrie. Le prix d'une carte graphique NVIDIA A100 a grimpé à plus de 200 000 yuans, et le loyer mensuel atteint 50 000 à 70 000 yuans. Malgré cela, certaines entreprises font encore face à des problèmes de non-respect des délais de livraison par les fournisseurs.
Cette pénurie de puissance de calcul est difficile à résoudre à court terme. Des experts affirment que sans des investissements de plusieurs milliards, il est difficile de continuer à développer de grands modèles. Certains entrepreneurs estiment que sans un soutien financier de centaines de milliards, cette voie sera difficile à emprunter.
Face à cette situation, l'industrie considère généralement qu'avec le passage du marché de l'enthousiasme à la rationalité, les entreprises ajusteront leurs stratégies pour contrôler les coûts en fonction des attentes.
Pour faire face à la Puissance de calcul manquante, les entreprises ont adopté diverses méthodes:
Utiliser des données de haute qualité pour améliorer l'efficacité de l'entraînement
Améliorer la stabilité de l'infrastructure pour réaliser un fonctionnement stable à long terme de 1000 kilocalories.
Optimiser la planification des ressources de la carte de puissance de calcul, réaliser une planification distribuée fine.
Augmenter la vitesse du réseau, éviter les interruptions d'entraînement
Passer de l'architecture de cloud computing à l'architecture de supercalculateur
Utiliser des plateformes nationales en remplacement des GPU NVIDIA
Ces méthodes nécessitent une forte capacité technique, et il est généralement difficile pour les entreprises de répondre à leurs besoins en construisant leur propre centre de données, elles choisissent plutôt de recourir à des fournisseurs professionnels de Puissance de calcul.
En fait, la "Puissance de calcul des grands modèles" pour laquelle nous nous battons est devenue un nouveau modèle de service. Les services de puissance de calcul sont un domaine émergent basé sur la diversité de la puissance de calcul, reliant des réseaux de puissance de calcul et visant à une fourniture efficace de puissance de calcul. Cela inclut non seulement la puissance de calcul, mais aussi l'encapsulation de ressources telles que le stockage et le réseau, livrées sous forme d'API.
Dans la chaîne de l'industrie de la puissance de calcul, les fournisseurs en amont fournissent des ressources de base, les acteurs intermédiaires offrent des services de puissance de calcul, et les utilisateurs finaux sont les entreprises du secteur. Par rapport à la construction d'un environnement autonome, l'utilisation des services de puissance de calcul présente des avantages en termes de coûts et de technologie.
Actuellement, les services de puissance de calcul sont principalement proposés selon deux modes : la facturation à l'utilisation et les abonnements annuels ou mensuels. À l'avenir, nous allons également promouvoir l'"intégration de la puissance de calcul et du réseau", en soutenant la planification des ressources à travers différentes architectures, régions et fournisseurs de services.
Avec la normalisation de la demande pour les grands modèles, les services de puissance de calcul se développent rapidement pour devenir une chaîne de valeur et un modèle commercial uniques. Bien qu'il y ait actuellement une pénurie de GPU haut de gamme, ce n'est qu'un phénomène temporaire. À long terme, les fournisseurs de services de puissance de calcul doivent anticiper et se préparer à une transition rapide après le retour à la rationalité du marché.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
La frénésie des grands modèles crée de nouvelles opportunités de services de puissance de calcul, les entreprises s'adaptent face à la pénurie de GPU.
Puissance de calcul devient un nouveau mode de service, la transformation apportée par la vague des grands modèles
Récemment, la demande pour l'entraînement de grands modèles a explosé, et les GPU haut de gamme sont en pénurie, devenant un sujet d'actualité dans l'industrie. Le prix d'une carte graphique NVIDIA A100 a grimpé à plus de 200 000 yuans, et le loyer mensuel atteint 50 000 à 70 000 yuans. Malgré cela, certaines entreprises font encore face à des problèmes de non-respect des délais de livraison par les fournisseurs.
Cette pénurie de puissance de calcul est difficile à résoudre à court terme. Des experts affirment que sans des investissements de plusieurs milliards, il est difficile de continuer à développer de grands modèles. Certains entrepreneurs estiment que sans un soutien financier de centaines de milliards, cette voie sera difficile à emprunter.
Face à cette situation, l'industrie considère généralement qu'avec le passage du marché de l'enthousiasme à la rationalité, les entreprises ajusteront leurs stratégies pour contrôler les coûts en fonction des attentes.
Pour faire face à la Puissance de calcul manquante, les entreprises ont adopté diverses méthodes:
Ces méthodes nécessitent une forte capacité technique, et il est généralement difficile pour les entreprises de répondre à leurs besoins en construisant leur propre centre de données, elles choisissent plutôt de recourir à des fournisseurs professionnels de Puissance de calcul.
En fait, la "Puissance de calcul des grands modèles" pour laquelle nous nous battons est devenue un nouveau modèle de service. Les services de puissance de calcul sont un domaine émergent basé sur la diversité de la puissance de calcul, reliant des réseaux de puissance de calcul et visant à une fourniture efficace de puissance de calcul. Cela inclut non seulement la puissance de calcul, mais aussi l'encapsulation de ressources telles que le stockage et le réseau, livrées sous forme d'API.
Dans la chaîne de l'industrie de la puissance de calcul, les fournisseurs en amont fournissent des ressources de base, les acteurs intermédiaires offrent des services de puissance de calcul, et les utilisateurs finaux sont les entreprises du secteur. Par rapport à la construction d'un environnement autonome, l'utilisation des services de puissance de calcul présente des avantages en termes de coûts et de technologie.
Actuellement, les services de puissance de calcul sont principalement proposés selon deux modes : la facturation à l'utilisation et les abonnements annuels ou mensuels. À l'avenir, nous allons également promouvoir l'"intégration de la puissance de calcul et du réseau", en soutenant la planification des ressources à travers différentes architectures, régions et fournisseurs de services.
Avec la normalisation de la demande pour les grands modèles, les services de puissance de calcul se développent rapidement pour devenir une chaîne de valeur et un modèle commercial uniques. Bien qu'il y ait actuellement une pénurie de GPU haut de gamme, ce n'est qu'un phénomène temporaire. À long terme, les fournisseurs de services de puissance de calcul doivent anticiper et se préparer à une transition rapide après le retour à la rationalité du marché.