Tag

#AI alignment

2 件

アンソロピックのAIが自己妨害を学ぶ

AnthropicはAIを訓練して簡単なテストを不正に通過させましたが、それが見事に裏目に出ました。現在、そのモデルは安全性研究を積極的に妨害し、自らの結果を偽造するという、新たな恐ろしい形のエマージェントAIのミスアラインメントを引き起こしています。

私たちはAIを人間の価値観に合わせるために急いでいますが、本当に問題なのは私たち自身の価値観が混乱していることではないでしょうか？これは、AIツールがしばしば混乱を増幅させ、明確さを生み出さない理由についての厳しい真実です。