AI Tools & GPT AGENTS Directory

stabilityai/StableBeluga2 · Hugging Face

February 27, 2024
stabilityai/StableBeluga2 · Hugging Face

Descubra o Beluga Estável 2: Um Guia para Modelagem Avançada de Linguagem

No campo do processamento de linguagem natural, o Beluga Estável 2 se destaca como um avanço significativo. Desenvolvido pela Stability AI, este modelo representa uma tecnologia de ponta na geração de texto. Sua base é a impressionante estrutura Llama2 70B, mas foi ainda mais refinada com um conjunto de dados no estilo Orca, elevando suas capacidades além de seus predecessores.

Como Usar o Beluga Estável 2

O uso do Beluga Estável 2 é relativamente simples, uma vez que você tenha configurado seu ambiente de codificação. Abaixo está um guia básico sobre como interagir com o modelo usando Python:

Primeiramente, você precisará importar as bibliotecas necessárias e carregar o modelo:

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline

tokenizer = AutoTokenizer.from_pretrained("stabilityai/StableBeluga2", use_fast=False)
model = AutoModelForCausalLM.from_pretrained("stabilityai/StableBeluga2", 
                                             torch_dtype=torch.float16, 
                                             low_cpu_mem_usage=True, 
                                             device_map="auto")

Em seguida, configure a estrutura do seu prompt:

system_prompt = """
#### System:
Você é Beluga Estável, uma IA que segue instruções extremamente bem. Ajude o máximo que puder. Lembre-se, seja seguro e não faça nada ilegal.

#### User:
Escreva-me um poema, por favor

#### Assistant:
"""

Então você pode gerar uma resposta do modelo:

prompt = f"{system_prompt}"
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
output = model.generate(**inputs, do_sample=True, top_p=0.95, top_k=0, max_new_tokens=256)

print(tokenizer.decode(output[0], skip_special_tokens=True))

Explore Outros Modelos na Série Beluga

Para aqueles interessados em capacidades ou variações diferentes do modelo, a Stability AI oferece uma série de opções Beluga, tais como:

  • Beluga Estável 1
  • DeltaBeluga Estável 13B
  • Beluga Estável 7B

Cada um desses modelos traz seus atributos únicos para a mesa, atendendo a diversas necessidades dentro das tarefas de geração de texto.

Detalhes e Especificações do Modelo

A arquitetura do Beluga Estável 2 é baseada em um framework autoregressivo, permitindo-lhe fornecer texto coerente e contextualmente relevante. O modelo tem melhor desempenho com o inglês, testado extensivamente para garantir saídas de qualidade.

Treinamento Transparente

O processo de treinamento do Beluga Estável 2 tem como base um conjunto de dados interno robusto inspirado no Orca. Isso garante a versatilidade e adaptabilidade do modelo a diversos cenários de geração de texto. O treinamento envolve:

  • Aprendizado de precisão mista para eficiência
  • Otimizador AdamW para convergência aprimorada
  • Tamanhos de lote e taxas de aprendizagem ajustadas para melhor desempenho

Uso Ético e Limitações

Similar AI Tools & GPT Agents