Skip to content

General Compute

General Compute는 AI 에이전트 및 개발자를 위한 ASIC 우선 추론 클라우드로, 초고속, 저지연 AI 추론을 제공합니다.

프리미엄(무료+유료) · API

General Compute 요약

ASIC에서 서브 밀리초 AI 추론에 있어 General Compute는 제 역할을 하지만, 가장 지연 시간에 민감한 앱에만 특화되어 있습니다.
stork0:00 / 0:06
Jiwoo, 89개 목소리 중 하나. 재생해 보세요.
내레이션은 분당 $0.05.
대본을 입력하면 MP3를 받습니다. 목소리 89개, 38개 언어. 하루 3개 무료, 각 1분까지.
내레이션 만들기

General Compute란 무엇인가요?

General Compute는 자율 AI 에이전트 및 개발자가 초고속, 저지연 추론으로 AI 모델을 배포할 수 있도록 General Compute가 개발한 AI 추론 클라우드 플랫폼입니다. 기존 GPU 기반 시스템에 비해 훨씬 빠른 응답 시간과 높은 처리량을 달성하기 위해 특수 제작된 AI 가속기 (ASIC)를 활용합니다. 이 플랫폼은 초고속 응답 시간을 요구하는 AI 워크로드를 위해 특별히 설계되었으며, 원활한 통합을 위한 OpenAI-compatible API를 제공합니다. General Compute는 학습된 AI 모델을 효율적으로 실행하도록 최적화된 SambaNova SN40 및 SN50 데이터플로우 실리콘을 포함한 특수 제작된 AI 가속기에서 작동합니다.

General Compute의 주요 기능

General Compute는 고성능 AI 추론을 위해 설계된 다양한 기능을 제공하며, ASIC 우선 아키텍처를 활용하여 업계 최고의 속도와 효율성을 제공합니다. 이 플랫폼의 설계는 낮은 지연 시간과 높은 처리량을 우선시하여 까다로운 실시간 AI 애플리케이션에 적합합니다.

  • 빠른 AI 모델 응답을 위한 서브 밀리초 Time to First Token (TTFT).
  • MiniMax M2.5와 같은 모델에서 최대 950 tokens/second를 달성하는 높은 처리량 기능.
  • 개발자가 기본 URL을 변경하는 것만으로 기존 워크플로우와 통합할 수 있도록 하는 OpenAI-compatible API.
  • 최적화된 추론을 위해 SambaNova SN40 및 SN50 데이터플로우 실리콘을 활용하는 ASIC 우선 아키텍처.
  • AI 에이전트가 프로그래밍 방식으로 가입하고, API 키를 프로비저닝하며, 자체 추론을 관리할 수 있도록 하는 에이전트 네이티브 디자인.
  • 다양한 모델 제품군 및 파라미터 크기에 걸쳐 다양한 오픈 소스 Large Language Models (LLMs) 배포 지원.
  • 고객이 General Compute의 인프라에 자체 맞춤형 AI 모델을 배포할 수 있는 기능.
  • 수력 발전으로 구동되며, 유사한 GPU 설치의 120 kW에 비해 랙당 17 kW로 작동하는 에너지 효율적인 인프라.

General Compute는 누가 사용해야 하나요?

General Compute는 초고속, 저지연 AI 추론을 필요로 하는 주체, 특히 자율 AI 에이전트 및 실시간 애플리케이션 개발 및 배포에 관련된 주체를 위해 특별히 맞춤 제작되었습니다. 그 아키텍처는 속도와 효율성이 가장 중요한 워크로드에 최적화되어 있습니다.

  • AI 에이전트: 자체 컴퓨팅을 프로그래밍 방식으로 프로비저닝할 수 있는 에이전트를 포함하여 대량의 Large Language Model (LLM) 추론 및 도구 호출이 필요한 자율 AI 에이전트.
  • 개발자: 즉각적인 응답이 중요한 실시간 코딩 도우미, 개발자 도구 및 기타 지연 시간에 민감한 AI 애플리케이션을 구축하는 경우.
  • 음성 및 음성 인식 애플리케이션: 실시간 처리 및 자연어 이해를 위해 초고속 응답 시간이 필요한 경우.
  • AI 기반 챗봇 및 고객 지원 에이전트: 원활하고 반응적인 사용자 경험을 제공하기 위해 낮은 지연 시간 상호 작용이 필요한 경우.
  • IoT 및 엣지 장치: 컴퓨팅 리소스가 종종 제한적이고 빠른 처리가 필수적인 엣지에서 지연 시간에 민감한 AI 추론을 위한 경우.

General Compute 가격 및 요금제

General Compute는 AI 추론을 위한 토큰당 사용량에 따라 주로 결정되는 사용량 기반 가격 책정의 프리미엄 모델로 운영됩니다. 특정 토큰당 요금은 공개적으로 자세히 설명되어 있지 않지만, 이 플랫폼은 최적화된 실리콘 및 아키텍처 덕분에 생산 규모에서 비용 효율성을 강조합니다. 출시의 일환으로 General Compute는 2026년 5월 20일부터 5월 27일 사이에 생성된 새 계정에 대해 200달러의 무료 크레딧을 제공했습니다. 전용 인프라, 서비스 수준 계약 (SLA) 및 용량 계획에 대한 기업 문의는 맞춤형 솔루션을 위해 회사에 문의할 수 있습니다.

  • 프리미엄 모델: 핵심 추론 기능에 대한 초기 액세스를 제공합니다.
  • 사용량 기반 가격 책정: AI 추론을 위한 토큰당 사용량에 따라 비용이 계산되며, 특정 요금은 문의 시 제공됩니다.
  • 출시 크레딧: 2026년 5월 20일부터 5월 27일 사이에 생성된 새 계정에 대해 200달러의 무료 크레딧이 제공되었습니다.
  • 엔터프라이즈 솔루션: 전용 배포, SLA 및 용량 계획을 위한 맞춤형 가격 및 인프라를 사용할 수 있습니다.

General Compute 대 경쟁사

General Compute는 AI 추론 워크로드에 대해 뛰어난 속도와 에너지 효율성을 제공함으로써 GPU 기반 추론 솔루션에 직접 도전하는 "ASIC-native neocloud"로 자리매김합니다. 낮은 지연 시간 AI 추론 분야에서 여러 플랫폼과 경쟁합니다.

General Compute

프리미엄(무료+유료) · API

이 글이 마음에 드셨나요? 매일 아침 이런 글을 메일로 받아보세요.

하루 한 통 · 두 번의 클릭으로 구독 취소 · 제3자 추적 없음

𝕏
X / Twitter@generalcompute