Skip to content

General Compute

General Compute ist eine ASIC-first Inferenz-Cloud für KI-Agenten und Entwickler, die ultraschnelle KI-Inferenz mit geringer Latenz liefert.

Freemium · API

General Compute kurz gesagt

Für die KI-Inferenz im Sub-Millisekundenbereich auf ASICs liefert General Compute ab, ist aber nur für die latenzempfindlichsten Anwendungen spezialisiert.
stork0:00 / 0:05
Lena, eine von 89 Stimmen. Auf Play drücken.
Ein Voiceover kostet $0.05 pro Minute.
Bis zu 20 000 Zeichen tippen, MP3 erhalten. 89 Stimmen, 38 Sprachen. Drei pro Tag kostenlos, je eine Minute.
Voiceover erstellen

Was ist General Compute?

General Compute ist eine von General Compute entwickelte KI-Inferenz-Cloud-Plattform, die autonomen KI-Agenten und Entwicklern ermöglicht, KI-Modelle mit ultraschneller Inferenz und geringer Latenz bereitzustellen. Sie nutzt speziell entwickelte KI-Beschleuniger (ASICs), um im Vergleich zu traditionellen GPU-basierten Systemen deutlich schnellere Antwortzeiten und einen höheren Durchsatz zu erzielen. Die Plattform ist speziell für KI-Workloads konzipiert, die ultraschnelle Antwortzeiten erfordern, und bietet eine OpenAI-kompatible API für nahtlose Integration. General Compute läuft auf speziell entwickelten KI-Beschleunigern, einschließlich SambaNova SN40 und SN50 dataflow silicon, die für den effizienten Betrieb trainierter KI-Modelle optimiert sind.

Hauptmerkmale von General Compute

General Compute bietet eine Reihe von Funktionen, die für Hochleistungs-KI-Inferenz entwickelt wurden und seine ASIC-first Architektur nutzen, um branchenführende Geschwindigkeit und Effizienz zu bieten. Das Design der Plattform priorisiert geringe Latenz und hohen Durchsatz, wodurch sie für anspruchsvolle Echtzeit-KI-Anwendungen geeignet ist.

  • Time to First Token (TTFT) im Sub-Millisekundenbereich für schnelle KI-Modellantworten.
  • Hohe Durchsatzfähigkeiten, die bis zu 950 Tokens/Sekunde bei Modellen wie MiniMax M2.5 erreichen.
  • OpenAI-kompatible API, die es Entwicklern ermöglicht, sich durch einfaches Ändern der Basis-URL in bestehende Workflows zu integrieren.
  • ASIC-first Architektur, die SambaNova SN40 und SN50 dataflow silicon für optimierte Inferenz nutzt.
  • Agent-natives Design, das KI-Agenten ermöglicht, sich programmatisch anzumelden, API keys bereitzustellen und ihre eigene Inferenz zu verwalten.
  • Unterstützung für die Bereitstellung einer Reihe von Open-Source Large Language Models (LLMs) über verschiedene Modellfamilien und Parametergrößen hinweg.
  • Möglichkeit für Kunden, ihre eigenen benutzerdefinierten KI-Modelle auf der Infrastruktur von General Compute bereitzustellen.
  • Energieeffiziente Infrastruktur, die mit 17 kW pro Rack im Vergleich zu 120 kW für vergleichbare GPU-Installationen betrieben wird und durch Wasserkraftquellen gespeist wird.

Wer sollte General Compute nutzen?

General Compute ist speziell auf Unternehmen zugeschnitten, die ultraschnelle KI-Inferenz mit geringer Latenz benötigen, insbesondere solche, die an der Entwicklung und Bereitstellung autonomer KI-Agenten und Echtzeitanwendungen beteiligt sind. Seine Architektur ist für Workloads optimiert, bei denen Geschwindigkeit und Effizienz an erster Stelle stehen.

  • KI-Agenten: Für autonome KI-Agenten, die hohe Volumina an Large Language Model (LLM) Inferenz und Tool-Aufrufen benötigen, einschließlich Agenten, die in der Lage sind, ihre eigene Rechenleistung programmatisch bereitzustellen.
  • Entwickler: Die Echtzeit-Coding-Assistenten, Entwicklertools und andere latenzempfindliche KI-Anwendungen entwickeln, bei denen sofortige Antworten entscheidend sind.
  • Sprach- und Spracherkennungsanwendungen: Die ultraschnelle Antwortzeiten für Echtzeitverarbeitung und natürliche Sprachverarbeitung erfordern.
  • KI-gestützte Chatbots und Kundensupport-Agenten: Die Interaktionen mit geringer Latenz erfordern, um nahtlose und reaktionsschnelle Benutzererlebnisse zu bieten.
  • IoT- und Edge-Geräte: Für latenzempfindliche KI-Inferenz am Edge, wo Rechenressourcen oft begrenzt sind und schnelle Verarbeitung unerlässlich ist.

General Compute Preise & Pläne

General Compute arbeitet mit einem Freemium-Modell mit nutzungsbasierter Preisgestaltung, die hauptsächlich durch die Nutzung pro Token für KI-Inferenz bestimmt wird. Spezifische Raten pro Token sind nicht öffentlich detailliert, aber die Plattform betont die Kosteneffizienz im Produktionsmaßstab aufgrund ihrer optimierten silicon und Architektur. Im Rahmen seines Starts bot General Compute einen kostenlosen Guthaben von 200 US-Dollar für neue Konten an, die zwischen dem 20. und 27. Mai 2026 erstellt wurden. Unternehmenskundenanfragen für dedizierte Infrastruktur, Service Level Agreements (SLAs) und Kapazitätsplanung können an das Unternehmen gerichtet werden, um maßgeschneiderte Lösungen zu erhalten.

  • Freemium-Modell: Bietet initialen Zugang zu den Kern-Inferenzfähigkeiten.
  • Nutzungsbasierte Preisgestaltung: Die Kosten werden basierend auf der Nutzung pro Token für KI-Inferenz berechnet, wobei spezifische Raten auf Anfrage erhältlich sind.
  • Startguthaben: Ein kostenloses Guthaben von 200 US-Dollar war für neue Konten verfügbar, die zwischen dem 20. und 27. Mai 2026 erstellt wurden.
  • Enterprise-Lösungen: Kundenspezifische Preisgestaltung und Infrastruktur für dedizierte Bereitstellungen, SLAs und Kapazitätsplanung verfügbar.

General Compute vs. Wettbewerber

General Compute positioniert sich als „ASIC-native Neocloud“ und fordert GPU-basierte Inferenzlösungen direkt heraus, indem es überlegene Geschwindigkeit und Energieeffizienz für KI-Inferenz-Workloads bietet. Es konkurriert mit mehreren Plattformen im Bereich der KI-Inferenz mit geringer Latenz.

General Compute

Freemium · API

Gefällt Ihnen der Artikel? Erhalten Sie jeden Morgen einen wie diesen per E-Mail.

eine E-Mail pro Tag · Abmeldung mit zwei Klicks · kein Tracking durch Dritte

𝕏
X / Twitter@generalcompute