手を離すと何が起きるか：Context Wall

ステップバイステップの誘導を止めると、Agentはagentic loopの中で自律的に動き始める。仕様を読み、最初のアクションを推論し、ツールを呼び出し、結果を観察し、次のステップを推論し、行動を続ける。各ループイテレーションの結果はcontext windowに追加されていく。

最初の20イテレーションは問題ない。Agentの推論は明確で、出力品質は安定している。イテレーション50に達する頃には、context windowは数十イテレーション分の推論トレース、ツール呼び出しの記録、コードスニペットで満杯になっている。初期の設計決定はウィンドウの遠端に押しやられ、注意の重みはますます低下する。イテレーション100になると、Agentの振る舞いは予測不能になり始める。前半で選択したエラーハンドリング戦略が後半では別のアプローチに置き換わる。イテレーション20で定義したインターフェース仕様がイテレーション80の実装で暗黙のうちに変更される。

これがcontext wallだ。出力品質の低下は線形ではなく、崖がある。崖の手前ではAgentは正常に動作する。崖を超えると出力品質は急激に劣化し、その劣化はサイレントだ。Agentは「ミスをし始めています」とは言わない。同じ自信を持ってアウトプットを生成し続けるが、内容が自己矛盾し始める。

これはAgentが愚かになっているのではない。有限な処理能力というハード制約だ。第1章で分析したように、Agentは毎回のインタラクションで有限なウィンドウ内で理解を再構築する。グローバルな一貫性を維持するための永続的な内部モデルを持たない。ウィンドウ内の情報量が実効的な処理能力を超えると、失われるのはウィンドウに最も早く入った情報であり、その情報こそが多くの場合最も重要なもの――全体のアーキテクチャ、設計原則、インターフェース規約――なのだ。

このメカニズムを理解すれば、対応戦略は明確になる。Agentにタスク全体を一度に完了させようとしてはならない。代わりに、崖にぶつかる前に完了できるチャンクにタスクを切り分ける。