Skip to content

General Compute

General Compute est un cloud d'inférence priorisant les ASIC pour les agents et développeurs d'IA, offrant une inférence d'IA ultra-rapide et à faible latence.

Freemium · API

General Compute en bref

Pour l'inférence IA sub-milliseconde sur ASICs, General Compute est performant, mais il est spécialisé uniquement pour les applications les plus sensibles à la latence.
stork0:00 / 0:04
Camille, l'une des 89 voix. Appuyez sur lecture.
Une voix off coûte $0.05 la minute.
Tapez jusqu'à 20 000 caractères, recevez un MP3. 89 voix, 38 langues. Trois gratuites par jour, d'une minute chacune.
Créer une voix off

Qu'est-ce que General Compute ?

General Compute est une plateforme cloud d'inférence d'IA développée par General Compute qui permet aux agents d'IA autonomes et aux développeurs de déployer des modèles d'IA avec une inférence ultra-rapide et à faible latence. Elle utilise des accélérateurs d'IA (ASIC) spécialement conçus pour atteindre des temps de réponse significativement plus rapides et un débit plus élevé par rapport aux systèmes traditionnels basés sur GPU. La plateforme est spécifiquement conçue pour les charges de travail d'IA exigeant des temps de réponse ultra-rapides, fournissant une API compatible OpenAI pour une intégration transparente. General Compute fonctionne sur des accélérateurs d'IA spécialement conçus, y compris le silicium de flux de données SambaNova SN40 et SN50, optimisés pour exécuter efficacement les modèles d'IA entraînés.

Fonctionnalités clés de General Compute

General Compute offre une suite de fonctionnalités conçues pour l'inférence d'IA haute performance, tirant parti de son architecture priorisant les ASIC pour offrir une vitesse et une efficacité de pointe. La conception de la plateforme privilégie une faible latence et un débit élevé, la rendant adaptée aux applications d'IA en temps réel exigeantes.

  • Time to First Token (TTFT) inférieur à la milliseconde pour des réponses rapides des modèles d'IA.
  • Capacités de débit élevé, atteignant jusqu'à 950 tokens/seconde sur des modèles comme MiniMax M2.5.
  • API compatible OpenAI, permettant aux développeurs de s'intégrer aux workflows existants en changeant simplement l'URL de base.
  • Architecture priorisant les ASIC, utilisant le silicium de flux de données SambaNova SN40 et SN50 pour une inférence optimisée.
  • Conception native pour agents, permettant aux agents d'IA de s'inscrire, de provisionner des clés API et de gérer leur propre inférence de manière programmatique.
  • Prise en charge du déploiement d'une gamme de Large Language Models (LLM) open-source à travers diverses familles de modèles et tailles de paramètres.
  • Possibilité pour les clients de déployer leurs propres modèles d'IA personnalisés sur l'infrastructure de General Compute.
  • Infrastructure économe en énergie, fonctionnant à 17 kW par rack contre 120 kW pour des installations GPU comparables, alimentée par des sources hydroélectriques.

Qui devrait utiliser General Compute ?

General Compute est spécifiquement conçu pour les entités nécessitant une inférence d'IA ultra-rapide et à faible latence, en particulier celles impliquées dans le développement et le déploiement d'agents d'IA autonomes et d'applications en temps réel. Son architecture est optimisée pour les charges de travail où la vitesse et l'efficacité sont primordiales.

  • Agents d'IA : Pour les agents d'IA autonomes qui nécessitent de grands volumes d'inférence de Large Language Model (LLM) et d'appels d'outils, y compris les agents capables de provisionner leur propre calcul de manière programmatique.
  • Développeurs : Construisant des assistants de codage en temps réel, des outils de développement et d'autres applications d'IA sensibles à la latence où les réponses immédiates sont critiques.
  • Applications de reconnaissance vocale et de la parole : Nécessitant des temps de réponse ultra-rapides pour le traitement en temps réel et la compréhension du langage naturel.
  • Chatbots et agents de support client basés sur l'IA : Exigeant des interactions à faible latence pour offrir des expériences utilisateur fluides et réactives.
  • Appareils IoT et Edge : Pour l'inférence d'IA sensible à la latence en périphérie, où les ressources de calcul sont souvent limitées et un traitement rapide est essentiel.

Tarification et plans de General Compute

General Compute fonctionne sur un modèle freemium avec une tarification basée sur l'utilisation, principalement déterminée par l'utilisation par token pour l'inférence d'IA. Les tarifs spécifiques par token ne sont pas détaillés publiquement, mais la plateforme met l'accent sur la rentabilité à l'échelle de la production grâce à son silicium et son architecture optimisés. Dans le cadre de son lancement, General Compute a offert un crédit gratuit de 200 $ pour les nouveaux comptes créés entre le 20 et le 27 mai 2026. Les demandes d'entreprise pour une infrastructure dédiée, des accords de niveau de service (SLA) et la planification de la capacité peuvent être adressées à l'entreprise pour des solutions personnalisées.

  • Modèle Freemium : Fournit un accès initial aux capacités d'inférence de base.
  • Tarification basée sur l'utilisation : Les coûts sont calculés en fonction de l'utilisation par token pour l'inférence d'IA, avec des tarifs spécifiques disponibles sur demande.
  • Crédit de lancement : Un crédit gratuit de 200 $ était disponible pour les nouveaux comptes créés entre le 20 et le 27 mai 2026.
  • Solutions d'entreprise : Tarification et infrastructure personnalisées disponibles pour les déploiements dédiés, les SLA et la planification de la capacité.

General Compute vs Concurrents

General Compute se positionne comme un « neocloud natif ASIC », défiant directement les solutions d'inférence basées sur GPU en offrant une vitesse et une efficacité énergétique supérieures pour les charges de travail d'inférence d'IA. Il est en concurrence avec plusieurs plateformes dans l'espace de l'inférence d'IA à faible latence.

General Compute

Freemium · API

Cet article vous plaît ? Recevez-en un comme celui-ci chaque matin.

un e-mail par jour · désinscription en deux clics · aucun traqueur tiers

𝕏
X / Twitter@generalcompute