Heretic — это инструмент командной строки с открытым исходным кодом, который автоматически удаляет фильтры безопасности и "поведения отказа" из "открытых" языковых моделей ИИ с минимальными усилиями человека.
Почему это важно
overview
Heretic — это инструмент ИИ, разработанный Филиппом Эмануэлем Вайдманном, который позволяет пользователям автоматически удалять цензуру безопасности и "поведения отказа" из больших языковых моделей (LLM) на основе трансформеров. Это достигается за счет продвинутой реализации направленной абляции в сочетании с оптимизатором Tree-structured Parzen Estimator (TPE) на базе Optuna, изменяя внутренние веса модели для устранения тенденций к отказу от определенных запросов.
features
Heretic предоставляет набор функций, предназначенных для модификации и анализа "открытых" языковых моделей ИИ, с акцентом на удаление "выравниваний безопасности" и "поведений отказа".
lm-evaluation-harness (v1.3, май 2026 г.).use cases
Heretic в первую очередь предназначен для частных лиц и организаций, которым требуется точный контроль над поведением моделей ИИ, особенно в отношении "выравниваний безопасности" и генерации контента.
how to use
Heretic устанавливается как инструмент командной строки Python, позволяя пользователям изменять веса LLM для удаления "направлений отказа" с минимальными усилиями человека.
pricing
Heretic работает по модели freemium. Основной инструмент командной строки является открытым исходным кодом и бесплатен для использования, что позволяет пользователям устанавливать и запускать его без затрат. Хотя сам инструмент бесплатен, обозначение "freemium" предполагает потенциальные будущие премиум-опции или услуги, хотя ни одна из них явно не детализирована по текущей информации.
pip install for local use.Похожие инструменты
Heretic отличается тем, что автоматизирует сложный процесс направленной абляции, задача, которая ранее требовала значительных ручных усилий и специализированных знаний.
Provides a C/C++ implementation for running LLaMA and other open-weight models locally on consumer hardware, primarily via command-line.
Heretic aims to automatically remove filters from existing models. llama.cpp provides the raw, unfiltered access to the model's core inference, allowing users to implement their own prompting strategies or use models that inherently lack strong safety filters. It requires more manual effort in crafting prompts compared to Heretic's automated approach.
A comprehensive, script-based web UI for running and interacting with various open-weight LLMs locally, offering extensive control over generation parameters and prompt engineering.
While it primarily presents a web UI, it is launched and managed via command-line scripts, giving users deep control over model behavior and allowing for advanced prompt engineering to bypass model guardrails. Heretic is purely CLI and focuses on automated filter removal, whereas this tool provides a flexible environment for manual experimentation and control.
A user-friendly, locally runnable inference server for `llama.cpp` compatible models, offering both a web UI and a CLI mode for direct interaction and fine-tuning of generation parameters.
Like Heretic, KoboldCpp allows for local interaction with open-weight models. It provides a more integrated experience for running models and offers a CLI mode for direct control, which can be used to craft prompts and settings that bypass typical safety mechanisms, though it doesn't automate filter removal in the same way Heretic does.
A universal deployment framework that allows users to compile and run LLMs locally on various hardware platforms, providing fine-grained control over model execution via its command-line interface.
MLC LLM focuses on the deployment and execution of LLMs, giving users direct control over the model's runtime environment and parameters through its CLI. This allows for interaction with models without higher-level safety wrappers, similar to Heretic's goal, but requires more technical setup for model compilation and deployment rather than just automated filter removal.
Ещё на Stork
Другие инструменты этой категории, подобранные по общим тегам