AIエージェントに任せる前に、決めた手順で足りるかを考える
次の行動を選ぶ自由度と、実行できる操作の範囲を分けて設計します。
公式資料確認資料確認：2026年10月3日。業務例・許可範囲の型は編集上の提案です。エージェントの実行・製品比較は未検証です。
AIに次の行動を選ばせる前に、決めた手順で目的を満たせるかを考えましょう。この記事では、仕事の終了条件と許可する操作を書き、自由度を増やす必要がある部分だけを見つけるメモを作ります。
公式資料から分かること：固定手順と動的な判断を区別する
Anthropicの設計記事は、あらかじめ決めた経路でモデルや道具を使うワークフローと、モデルが処理や道具の使い方を動的に選ぶエージェントを区別しています。複雑さは必要な場合に増やし、時間や費用との釣り合いを評価する考え方です。この分類は設計の参考で、すべての製品が同じ定義を使うわけではありません。
仕事の具体例：調査の自由と公開の権限は別
架空のメディアで、指定した公式資料を読み、根拠付きの下書きを保存するなら、固定手順が候補になります。不足した根拠を追加で探す部分に動的な判断を使う余地はありますが、それだけで公開・外部送信・削除の権限まで必要になるわけではありません。
- 固定するもの：対象テーマ、保存先、必須項目、完了と判断する条件。
- 選ばせるもの：許可した情報源の中から追加資料を選ぶなど、必要な判断だけ。
- 人が決めるもの：公開可否、扱う情報の範囲、追加費用や外部操作の承認。
コピーして使える許可範囲メモ
目的／固定手順で足りない点：
終了条件：何が保存・確認できたら終わりか
入力／利用してよい情報源：
許す道具・操作：読み取り／下書き作成など
許さない操作：公開／送信／削除など
人の承認が必要な操作／承認先：
調査回数／時間／費用の上限：
停止条件：根拠不足／権限不足／上限到達など
実行記録：参照資料・操作・結果・保留理由
固定手順との比較：品質／時間／費用／確認の手間結果の確認ポイント
同じ入力で固定手順と動的な判断を使う案を比べ、完成条件を満たすか、人の修正がどれだけ必要かを記録します。通常例だけでなく、根拠不足、道具の失敗、上限到達、禁止操作を求める文書が混じるケースも確認計画に入れます。
OWASPが説明する間接的なプロンプトインジェクションのように、取得文書には指示風の文章が含まれる場合があります。資料は参照データとして扱い、利用者の依頼や操作の許可に置き換えません。禁止操作を文章で注意するだけでなく、道具側の権限を限定する構成を検討します。
今日試すこと
任せたい仕事1つの終了条件と禁止操作を埋めてください。まず読み取りと下書きに絞り、許可されたテスト環境で確認する計画を作ります。
参考資料
- Anthropic｜Building effective agents：ワークフローとエージェントの設計上の区別。
- OWASP｜LLM01:2025 Prompt Injection：外部文書を通じた挙動の変更リスク。