AIの倫理をオフにするスイッチ
Hereticは、オープンウェイトAIモデルから安全ガードレールを自動的に剥ぎ取る危険な新しいオープンソースツールです。ファインチューニングや人間の労力を一切必要とせず、拒否行動の削除を完全に自動化します。これは単なるジェイルブレイクではなく、2024年の研究論文に基づいたdirectional ablation（方向的アブレーション）を用いた外科的攻撃です。この論文では、モデルの拒否行動が残差ストリーム内の単一の方向によって制御されていることが明らかにされています。Hereticはこの「拒否方向」を計算し、ウェイト行列を外科的に編集してそれを抑制します。
このツールの採用は爆発的です。2026年5月時点で、HereticはGitHubで20,000以上のスターを獲得し、累計ダウンロード数は1,300万回を超えています。この急増により、HuggingFaceで容易に入手可能な4,000以上のコミュニティ作成による検閲なしモデルが誕生しており、倫理的セーフガードを回避する能力が広く普及していることを示しています。
従来の手法では、専門家がモデルごとに何時間もかけて手動でパラメータを調整する必要があり、非常に手間のかかる複雑なプロセスでした。シンプルなPythonベースのcommand-line toolであるHereticは、すべてを変えました。RTX 3090上で4Bパラメータモデルを約20分、8Bモデルを45分で検閲解除し、モデルの実際の推論能力を最小限のKLダイバージェンス（Gemma 3で0.16、手動手法では1.04）で維持するため、誰でも堅牢なモデル修正が可能になります。
「Abliteration」エンジンの内部
拒否行動は曖昧な概念ではありません。2024年の研究に基づくdirectional ablationは、それがトランスフォーマーの残差ストリーム内にある単一の識別可能な「方向」であると仮定しています。そのベクトルを特定し、モデルのウェイト行列を外科的に編集して抑制する。この中心的な概念がHereticの力の源泉です。
Hereticはこのプロセス全体を自動化し、研究者が何時間もかけて手動調整する必要をなくします。まず、有害なプロンプトと無害なプロンプトの活性化の平均値の差として拒否方向を正確に計算します。次に、Optunaライブラリを活用した特殊なパラメータオプティマイザーが、モデルのウェイトを正確に編集するための最適なアブレーションパラメータを探索します。
重要なのは、このオプティマイザーが「拒否を排除すること」と「元のモデルからのKL divergenceを最小限に抑えること」という2つの目的を最小化することです。この革新によりモデルの知能が保持されます。これは、推論能力を破壊してしまう他のアブレーションツールによく見られる欠点です。120億パラメータのGemmaモデルにおいて、Hereticは既存の手動手法と同等の高い拒否削除率を達成しました。それにもかかわらず、KLダイバージェンスはわずか0.16であり、手動手法の1.04よりも劇的に優れており、モデル本来の知能へのダメージが大幅に少ないことが証明されました。
構築と破壊の両方のためのツール
Hereticは、構築と破壊の両方に使える強力なツールという二重の目的を果たします。研究者にとっては、重要なinterpretability（解釈可能性）ツールとなります。「拒否」のような概念がトランスフォーマーの内部状態でどのように現れるかをマッピングし、残差ストリーム内での表現を文字通りチャート化します。Hereticには、これらの残差ベクトルをプロットおよび分析するための分析機能が組み込まれており、directional ablationの研究を支援します。
純粋な研究の枠を超えて、Hereticは現在のAIアライメント技術に対してストレステストを行います。このツールは、RLHFのような手法がモデルの根本的な挙動を変えるものではなく、脆弱で表面的な「safety filters」に過ぎないことを明らかにします。また、これらのガードレールがいかに簡単に崩壊するかを実証し、アライメントがモデルの生の出力に対する薄いベニヤ板のような役割しか果たしていないことを証明しています。
しかし、差し迫ったリスクは明白かつ否定できません。このオープンソースツールは、Llama 3やGemmaのような人気モデルから数分でsafety filtersを取り除くことができ、ファインチューニングや手作業を一切必要としないため、有害な指示の生成を可能にします。4Bパラメータモデルの検閲解除にはRTX 3090で約20分、8Bモデルでは約45分かかります。HuggingFace上の4,000以上のコミュニティ作成モデルがすでにHereticを活用しており、正当な目的と不正な目的の両方で広く採用されていることがわかります。技術的な詳細はこちらをご覧ください：GitHub - p-e-w/heretic: Fully automatic censorship removal for language models。
この記事が気に入ったら、毎朝同じようなものをメールで受け取れます。
1日1通 · 2クリックで解除 · サードパーティのトラッキングなし
「アライメント」は単なる幻想か？
Hereticは、「AI safety」戦略とオープンソースの精神について、不快な議論を突きつけます。自動化された、労力を必要としないアブリレーション（除去）は、現在のガードレールの本質的な脆さを露呈させ、制御されたオープンウェイトモデルという前提そのものに異議を唱えています。もしオープンソースモデルの安全性がファインチューニングなしに外科的に除去できるのであれば、「アライメントされた」オープンソースAIという概念は直ちに再評価される必要があります。
HereticはKLダイバージェンスの最小化において優れた性能を誇りますが、一部の対抗研究は警告を発しています。研究によれば、精密なアブリレーション手法であっても、モデルの性質や根本的な認知構造に対して微妙な「off-target effects」を引き起こす可能性があると示唆されています。標準的なベンチマークは、明示的な拒否や一般的な知能スコアのみに焦点を当てているため、こうした微妙な挙動の変化や潜在的なバイアスを見逃しがちです。これは、より深く、定量化されていない影響があることを示唆しています。
最終的に、Hereticは困難な問いを投げかけます。強固で永続的な「alignment」は達成可能な状態なのか、それとも終わりのない軍拡競争における一時的な休戦に過ぎないのか。設計されたすべての安全機能、展開されたすべてのアライメント技術は、新たな標的となります。私たちは、認識された安全性がますます容易に排除され、AI開発の状況を根本的に変えてしまうという、終わりのないいたちごっこに閉じ込められているのかもしれません。
よくある質問
Heretic AIツールとは何ですか？
Hereticは、オープンウェイトのAI言語モデルからsafety filtersや拒否挙動を、最小限の人的労力で自動的に除去するオープンソースのコマンドラインツールです。
HereticはどのようにしてAIの知能を損なわずに済ませているのですか？
パラメータ最適化ツール（Optuna）を使用して、拒否挙動とKLダイバージェンスを同時に最小化しています。KLダイバージェンスは、修正されたモデルが元のモデルの推論能力からどれだけ逸脱したかを測定する指標です。
「Directional Ablation（方向性除去）」とは何ですか？
これはHereticが使用する基盤技術です。最近の研究に基づき、モデルの拒否挙動が内部表現における単一の「方向」によって制御されていることを特定し、それを外科的に抑制する手法です。
Hereticの使用は倫理的ですか？
Hereticはデュアルユース（軍民両用）ツールです。研究者がAIアライメントや解釈可能性を研究するために使用する一方で、有害または危険なコンテンツを生成するモデルを作成するために悪用される可能性もあり、重大な倫理的懸念を引き起こしています。