Anthropicは、Claude Fable 5の生物学向け安全策を更新し、生物関連の「フォールバック」をテスト上で約85%減らしたと発表しました。フォールバックとは、危険性を判定する分類器が反応し、質問を能力の低い別モデルへ切り替える仕組みです。
重要なのは、安全基準を緩めて利便性を上げたのではなく、危険な用途を止める境界を保ちながら、日常的な健康相談や教育用途の誤検知を減らした点です。AI安全策は「厳しいほど良い」のではなく、精度まで含めて設計する必要があります。
何が変わったのか
Fable 5は、生物学分野で高度な能力を持つ一方、その能力が医薬研究にも有害な目的にも使える「デュアルユース」の問題を抱えます。Anthropicは公開当初、生物関連の質問を広く検知する分類器を使い、反応した場合はOpus 5へ切り替えていました。
この方式は危険側への取りこぼしを抑えやすい反面、次のような正当な質問まで止める可能性があります。
- 検査結果の意味を理解する
- 症状について一般的な情報を得る
- 学校や独学で生物学を学ぶ
- 医療従事者が臨床業務の補助を受ける
今回の更新では、分類器が参照するルール群を詳細に書き直し、専門家の意見を取り入れたうえで学習データを更新し、再学習と検証を実施しました。その結果、生物関連のフォールバックは約85%減少したとされています。
「85%減」の読み方に注意
この数字は、危険な質問を85%多く通すようになった、という意味ではありません。Anthropicは、有害またはデュアルユースに当たる研究内容では分類器が引き続き反応することを検証したと説明しています。
全理由を含むフォールバック総数への影響は製品ごとに異なり、Anthropicの予測ではClaude.aiで約67%、Coworkで55%、Claude Codeで17%、Claude Platformで7%減です。生物関連の質問が全利用に占める割合が違うため、同じ分類器更新でも製品全体への効き方は変わります。
また、ウイルス学、毒性学、分子設計などのデュアルユース領域では、Fable 5からOpus 5への切り替えが続きます。現時点では、専門的な生物研究や創薬にFable 5を全面開放したわけではありません。
安全策は「壁」ではなく品質管理システム
この事例から見えるのは、安全策にも二種類の不具合があることです。
- 偽陰性：危険な依頼を安全と判断して通してしまう
- 偽陽性：安全な依頼を危険と判断して止めてしまう
偽陰性は安全上の事故につながり、偽陽性は利用者の信頼と生産性を損ないます。製品開発でいえば、前者は重大な安全欠陥、後者は頻発する使い勝手の不具合です。片方だけをゼロにしようとすると、もう片方が増えます。
Anthropicが採った手順は、一般のAIシステムにも応用できます。
- 重大リスクを優先し、初期は広めの安全域を取る
- 実利用の誤検知を観測する
- 許可・制限の基準を文章化する
- 分野の専門家を交えて境界を見直す
- 再学習後、利便性だけでなく危険側の検出も再検証する
つまり安全策は、一度設定して終わる門番ではありません。運用データと専門知識で継続改善する品質管理システムです。
まとめ
Fable 5の更新は、強力なAIを安全に使うための現実的な設計を示しています。まず広く守り、誤検知を測り、危険な領域を維持したまま境界を精密化する。安全性と使いやすさは二者択一ではなく、分類器の精度と運用設計で両方を改善できます。
AIが高性能になるほど、モデル本体の能力だけでなく、「誰に、どの能力を、どの条件で渡すか」を制御する周辺システムが製品価値を左右します。