Skip to content

General Compute

General Compute é uma nuvem de inferência ASIC-first para agentes e desenvolvedores de IA, oferecendo inferência de IA ultrarrápida e de baixa latência.

Freemium · API

General Compute em resumo

Para a inferência de IA em submilisegundos em ASICs, o General Compute cumpre o prometido, mas é especializado apenas para as aplicações mais sensíveis à latência.
stork0:00 / 0:04
Beatriz, uma de 89 vozes. Aperte o play.
Uma locução custa $0.05 o minuto.
Digite até 20 000 caracteres e receba um MP3. 89 vozes, 38 idiomas. Três grátis por dia, de um minuto cada.
Criar uma locução

O que é General Compute?

General Compute é uma plataforma de nuvem de inferência de IA desenvolvida pela General Compute que permite que agentes de IA autônomos e desenvolvedores implantem modelos de IA com inferência ultrarrápida e de baixa latência. Ela utiliza aceleradores de IA (ASICs) construídos para fins específicos para alcançar tempos de resposta significativamente mais rápidos e maior taxa de transferência em comparação com sistemas tradicionais baseados em GPU. A plataforma é projetada especificamente para cargas de trabalho de IA que exigem tempos de resposta ultrarrápidos, fornecendo uma API compatível com OpenAI para integração perfeita. General Compute opera em aceleradores de IA construídos para fins específicos, incluindo o silício de fluxo de dados SambaNova SN40 e SN50, otimizado para executar modelos de IA treinados de forma eficiente.

Principais Recursos do General Compute

General Compute oferece um conjunto de recursos projetados para inferência de IA de alto desempenho, aproveitando sua arquitetura ASIC-first para fornecer velocidade e eficiência líderes do setor. O design da plataforma prioriza baixa latência e alta taxa de transferência, tornando-a adequada para aplicações de IA em tempo real exigentes.

  • Time to First Token (TTFT) sub-milissegundo para respostas rápidas de modelos de IA.
  • Capacidades de alta taxa de transferência, alcançando até 950 tokens/segundo em modelos como MiniMax M2.5.
  • API compatível com OpenAI, permitindo que os desenvolvedores se integrem a fluxos de trabalho existentes simplesmente alterando a URL base.
  • Arquitetura ASIC-first, utilizando o silício de fluxo de dados SambaNova SN40 e SN50 para inferência otimizada.
  • Design nativo de agente, permitindo que agentes de IA se inscrevam programaticamente, provisionem chaves de API e gerenciem sua própria inferência.
  • Suporte para implantação de uma variedade de Large Language Models (LLMs) de código aberto em diversas famílias de modelos e tamanhos de parâmetros.
  • Capacidade para os clientes implantarem seus próprios modelos de IA personalizados na infraestrutura do General Compute.
  • Infraestrutura energeticamente eficiente, operando a 17 kW por rack em comparação com 120 kW para instalações de GPU comparáveis, alimentada por fontes hidrelétricas.

Quem Deve Usar o General Compute?

General Compute é especificamente adaptado para entidades que exigem inferência de IA ultrarrápida e de baixa latência, particularmente aquelas envolvidas no desenvolvimento e implantação de agentes de IA autônomos e aplicações em tempo real. Sua arquitetura é otimizada para cargas de trabalho onde velocidade e eficiência são primordiais.

  • Agentes de IA: Para agentes de IA autônomos que necessitam de altos volumes de inferência de Large Language Model (LLM) e chamadas de ferramentas, incluindo agentes capazes de provisionar programaticamente seu próprio compute.
  • Desenvolvedores: Construindo assistentes de codificação em tempo real, ferramentas de desenvolvedor e outras aplicações de IA sensíveis à latência onde respostas imediatas são críticas.
  • Aplicações de Reconhecimento de Voz e Fala: Exigindo tempos de resposta ultrarrápidos para processamento em tempo real e compreensão de linguagem natural.
  • Chatbots e Agentes de Suporte ao Cliente Alimentados por IA: Exigindo interações de baixa latência para fornecer experiências de usuário contínuas e responsivas.
  • Dispositivos IoT e de Borda: Para inferência de IA sensível à latência na borda, onde os recursos computacionais são frequentemente limitados e o processamento rápido é essencial.

Preços e Planos do General Compute

General Compute opera em um modelo freemium com preços baseados em uso, determinado principalmente pelo uso por token para inferência de IA. As taxas específicas por token não são detalhadas publicamente, mas a plataforma enfatiza a relação custo-benefício em escala de produção devido ao seu silício e arquitetura otimizados. Como parte de seu lançamento, General Compute ofereceu um crédito gratuito de US$ 200 para novas contas criadas entre 20 e 27 de maio de 2026. Consultas empresariais para infraestrutura dedicada, acordos de nível de serviço (SLAs) e planejamento de capacidade podem ser direcionadas à empresa para soluções personalizadas.

  • Modelo Freemium: Fornece acesso inicial às capacidades de inferência principais.
  • Preços Baseados em Uso: Os custos são calculados com base no uso por token para inferência de IA, com taxas específicas disponíveis mediante consulta.
  • Crédito de Lançamento: Um crédito gratuito de US$ 200 estava disponível para novas contas criadas entre 20 e 27 de maio de 2026.
  • Soluções Empresariais: Preços e infraestrutura personalizados disponíveis para implantações dedicadas, SLAs e planejamento de capacidade.

General Compute vs Concorrentes

General Compute se posiciona como uma "neocloud nativa de ASIC", desafiando diretamente as soluções de inferência baseadas em GPU ao oferecer velocidade e eficiência energética superiores para cargas de trabalho de inferência de IA. Ele compete com várias plataformas no espaço de inferência de IA de baixa latência.

General Compute

Freemium · API

Gostando do artigo? Receba um assim na sua caixa de entrada toda manhã.

um e-mail por dia · cancele em dois cliques · sem rastreadores de terceiros

𝕏
X / Twitter@generalcompute