Heretic は、オープンウェイトの AI 言語モデルから安全フィルターと拒否動作を最小限の労力で自動的に削除するオープンソースのコマンドラインツールです。
注目ポイント
overview
Heretic は Philipp Emanuel Weidmann によって開発された AI ツールで、ユーザーがトランスフォーマーベースの大規模言語モデル (LLM) から安全検閲と拒否動作を自動的に削除できるようにします。これは、Optuna を利用した Tree-structured Parzen Estimator (TPE) オプティマイザーと組み合わせた方向性アブレーションの高度な実装を通じて、内部モデルの重みを変更し、特定のプロンプトを拒否する傾向を排除することで実現されます。
features
Heretic は、オープンウェイトの AI 言語モデルを変更および分析するために設計された一連の機能を提供し、安全アライメントと拒否動作の削除に焦点を当てています。
lm-evaluation-harness を使用した統合ベンチマークシステム (v1.3, 2026年5月)。use cases
Heretic は、AI モデルの動作、特に安全アライメントとコンテンツ生成に関して、きめ細やかな制御を必要とする個人および組織向けに主に設計されています。
how to use
Heretic は Python コマンドラインツールとしてインストールされ、ユーザーは最小限の労力で LLM の重みを変更して拒否方向を削除できます。
pricing
Heretic はフリーミアムモデルで運営されています。コアとなるコマンドラインツールはオープンソースで無料で利用でき、ユーザーは費用なしでインストールして実行できます。ツール自体は無料ですが、「フリーミアム」という名称は、将来のプレミアムオプションやサービスを示唆していますが、現在の情報では具体的に詳細が記載されていません。
pip install for local use.類似ツール
Heretic は、これまで多大な手作業と専門知識を必要とした方向性アブレーションの複雑なプロセスを自動化することで、他社との差別化を図っています。
Provides a C/C++ implementation for running LLaMA and other open-weight models locally on consumer hardware, primarily via command-line.
Heretic aims to automatically remove filters from existing models. llama.cpp provides the raw, unfiltered access to the model's core inference, allowing users to implement their own prompting strategies or use models that inherently lack strong safety filters. It requires more manual effort in crafting prompts compared to Heretic's automated approach.
A comprehensive, script-based web UI for running and interacting with various open-weight LLMs locally, offering extensive control over generation parameters and prompt engineering.
While it primarily presents a web UI, it is launched and managed via command-line scripts, giving users deep control over model behavior and allowing for advanced prompt engineering to bypass model guardrails. Heretic is purely CLI and focuses on automated filter removal, whereas this tool provides a flexible environment for manual experimentation and control.
A user-friendly, locally runnable inference server for `llama.cpp` compatible models, offering both a web UI and a CLI mode for direct interaction and fine-tuning of generation parameters.
Like Heretic, KoboldCpp allows for local interaction with open-weight models. It provides a more integrated experience for running models and offers a CLI mode for direct control, which can be used to craft prompts and settings that bypass typical safety mechanisms, though it doesn't automate filter removal in the same way Heretic does.
A universal deployment framework that allows users to compile and run LLMs locally on various hardware platforms, providing fine-grained control over model execution via its command-line interface.
MLC LLM focuses on the deployment and execution of LLMs, giving users direct control over the model's runtime environment and parameters through its CLI. This allows for interaction with models without higher-level safety wrappers, similar to Heretic's goal, but requires more technical setup for model compilation and deployment rather than just automated filter removal.
Storkでもっと
同じカテゴリの他のツール（共通タグで関連付け）