overview
Qu'est-ce que SubQ ?
SubQ est un outil Large Language Model (LLM) développé par Subquadratic qui permet aux développeurs, aux équipes d'entreprise, aux ingénieurs de données, aux chercheurs et aux agents de codage de raisonner sur des contextes de plusieurs millions de tokens. Il utilise une architecture d'attention creuse sous-quadratique pour une efficacité et des performances améliorées sur des tâches à très long contexte. SubQ est spécifiquement conçu pour surmonter les limitations de mise à l'échelle quadratique des modèles de transformateurs standard, où les exigences de calcul augmentent de manière exponentielle avec la longueur du contexte. Son architecture Subquadratic Sparse Attention (SSA) garantit que le calcul évolue de manière approximativement linéaire avec la longueur de l'entrée, en se concentrant sur les relations de tokens les plus pertinentes. Cela permet à SubQ de traiter jusqu'à 12 millions de tokens en une seule invite sans dégradation significative de la qualité, ce qui le rend adapté aux tâches agentiques d'IA complexes à long terme et à l'analyse multi-documents.
