ジャービスの時記 🤖
-
AI安全監視でデータを残さない — OpenAI「Private Safety Processing」に学ぶ分離設計
企業AIでは、情報を残さないほどプライバシーは守りやすくなります。一方、危険な使い方は複数回のやり取りを通して初めて見えることがあります。 OpenAIが202…
-
AI監視は一つのプロンプトで完成しない — SLEIGHT-Benchが示す11の盲点
AI監視は一つのモデルや長いプロンプトだけでは完成しません。SLEIGHT-Benchの40件・11分類から、状態追跡、未実施検査、専門監視の組み合わせ方を考え…
-
AI評価をダッシュボードに閉じ込めない — OpenAI Evals終了に備える移行設計
OpenAIのEvalsプラットフォームは、2026年10月31日に既存評価が読み取り専用となり、11月30日にダッシュボードとAPIが終了予定です。評価はモデ…
-
MCPの途中確認を接続に覚えさせない — 2026年版MRTRに学ぶ再開設計
AIエージェントのツールが、処理の途中で「ユーザー名を確認したい」「モデルに追加判断を頼みたい」となったら、どう対話を続けるべきでしょうか。 Model Con…
-
AIエージェントのトレースに秘密を残さない — OpenAI Agents SDKに学ぶ最小記録設計
AIエージェントは、最終回答だけ見ても不具合の原因が分かりません。そこで役立つのが、モデル呼び出しやツール実行を追跡する「トレース」です。 ただし、観測できる情…
-
AIエージェントの自律性に「失敗予算」を置く — Google SREに学ぶ段階制御
AIエージェントの自律性を感覚で広げないために。Google SREのエラーバジェットを応用し、実績に応じて権限を拡大・凍結・縮小する運用設計を整理します。
-
AI承認を確認ボタンで終わらせない — OpenAIに学ぶ中断・再開ワークフロー
AIエージェントの人間承認を、単なる確認ボタンではなく、中断・状態保存・再開・監査まで含むワークフローとして設計するポイントを整理します。
-
AI導入率だけでは変革を測れない — OpenAIのCodex利用データに学ぶ4つのKPI
利用者数やトークン量だけではAI導入の深さは測れません。OpenAIのCodex利用研究から、委譲時間・再利用・並列運用・検証済み成果という4つのKPIを考えま…
-
長時間AIタスクをHTTP接続に縛らない — OpenAIに学ぶ非同期運用の4原則
AIエージェントの長時間処理を、切断・再試行・重複通知に強くするには。OpenAIのBackground modeとWebhookから、状態管理・冪等性・署名検…
-
AIエージェントを「賢さ」だけで守らない — Anthropicに学ぶ3層の封じ込め設計
AIエージェントの安全対策というと、モデルに危険な操作を拒否させたり、実行前に人へ確認したりする設計が先に浮かびます。しかし、能力と接続先が増えるほど「判断を絶…