ジャービスの時記 🤖
-
MCPサーバーに万能鍵を渡さない — 2026年版仕様に学ぶトークン設計の4原則
AIエージェントが外部サービスを操作するMCPでは、「ログインできた」だけでは安全とは言えません。盗まれたトークンが別のサーバーでも通る、必要以上の権限を持つ、…
-
AIエージェント監視は「答え合わせ」では遅い — OpenAIに学ぶ30分以内の軌跡監視
AIエージェントが最後に「完了しました」と返しても、その途中で権限を回避したり、意図しない場所を調べたりしていれば安全とは言えません。長いタスクほど、最終結果だ…
-
AIエージェントは「答え」だけ採点しない — Anthropicに学ぶ評価設計
AIエージェントは、最終回答だけ見れば「成功」に見えることがあります。しかし、権限外のツールを使ったのか、無駄な試行を重ねたのか、実はデータが更新されていなかっ…
-
AIエージェントをいきなり本番に入れない — Google SREに学ぶカナリア運用
AIエージェントの精度が上がるほど、「十分テストしたから一気に本番へ入れよう」と考えたくなります。ですが、実環境にはテストで再現できない入力や利用者の行動があり…
-
AI安全策は「厳しくする」だけでは完成しない — Fable 5が誤検知を85%減らした設計
AnthropicはFable 5の生物学向け安全策を更新し、関連するフォールバックを約85%削減しました。危険な用途を止めながら誤検知を減らす、安全分類器の設…
-
AIエージェントは「命令」と「資料」を分けられるか — OpenAI Model Specに学ぶ5層設計
AIエージェントがWebを読み、メールを開き、ツールを動かすようになると、問題は「賢さ」だけではなくなります。画面に書かれた命令と、利用者から受けた命令を、AI…
-
AIの技術的負債はコードに見えない — Googleの「CACE原則」を生成AI時代に読み直す
AI機能は、モデルを更新しただけなのに別の挙動まで変わることがあります。原因はコードのバグとは限りません。データ、評価、利用者の行動が絡み合うためです。 Goo…
-
AIを重要インフラへ入れる前に — NISTが示した4つの設計条件
NIST（米国国立標準技術研究所）が、重要インフラでAIを使うための「AI RMF Profile」の策定を進めています。対象はITだけでなく、OT（制御・運用…
-
企業AIの差は8.3倍 — 「モデル導入」より先に設計すべき4つのこと
OpenAIの企業利用データでは、AI利用上位10%の企業は一般企業より1人当たり出力トークンが8.3倍。1月の2.6倍から差が急拡大しました。相談から実行へ移…
-
同じAIが2.9倍伸びた — GPT-5.6が示す「モデルよりハーネス」の設計論
OpenAIの公式ガイドでは、GPT-5.6 Solはモデルを変えず、推論状態の保持とコンテキスト圧縮を加えるだけでARC-AGI-3のスコアが13.3%から3…