overview
¿Qué es private-gpt?
private-gpt es una herramienta de capa API de código abierto desarrollada por Zylon.ai que permite a los desarrolladores y organizaciones con datos sensibles a la privacidad construir aplicaciones de IA privadas y conscientes del contexto utilizando modelos locales. Asegura que los datos permanezcan dentro del entorno del usuario, sin ser enviados a APIs de nube externas. Lanzado en mayo de 2023, PrivateGPT proporciona bloques de construcción esenciales como mensajes, ingesta, recuperación y uso de herramientas, facilitando la creación de aplicaciones de IA para información sensible o industrias reguladas. La plataforma soporta varios servidores LLM compatibles con OpenAI, incluyendo Ollama, llama.cpp y vLLM, y está diseñada para despliegue on-premise para cumplir con estrictos requisitos de cumplimiento como HIPAA y SOC 2.
