The Engineering of Intent 第2章:認知負荷と物質的離脱
本記事は、私の著書The Engineering of Intent(英語版)を1章ずつ読み解くシリーズの第2回です。前回の記事では、三者関係モデル──人間、エージェント、コードベースがそれぞれ異なる役割を担う、ソフトウェア開発のCMDPとしての見方──を組み立てました。この章は、エージェントがタイピングの大半を担うようになったとき、人間に何が起きるのかについての章です。
劇的な名前を持たない失敗モード
AIネイティブ開発においてもっとも危険な失敗モードには、劇的な名前がありません。本書では倫理学の用語を借りて、これを物質的離脱と呼んでいます。エンジニアが作者という肩書きを保ったまま、書かれているものに意味のある形で関与することをやめてしまっている状態のことです。
この章は、私がジュニアエンジニアにもっとも読んでほしい章であり、シニアエンジニアにもっとも読み返してほしい章です。テーマは注意力──この分野全体が依存している、有限で、傷つきやすく、十分に検討されてこなかった資源──です。
コードの読み方は変わりました。気づいていないかもしれませんが。
400行の差分が3秒で届くとき、それをトークン単位で読む現実的な方法はありません。形を見てスキャンするしかないのです。この差分は正しいファイルに触れているか? 依存の向きは正しいか? 名前はこのコードベースの流儀に沿っているか? テストのカバレッジは振る舞いの変更と釣り合っているか?
シニアエンジニアは昔からこのように読んできました。AIネイティブ開発は、それを全員に強制します。それは力を与えてくれるものですが、同時に厳しい要求でもあります──全体を捉える読み方は、現実に存在する、訓練可能なスキルです。そして大半のチームは、まだそれを訓練すると決めていません。
印象主義的スキャニング(5つのパスで)
この章では、私が印象主義的スキャニングと呼んでいる技法を順に見ていきます──絵画を見るときのように差分を見ることです。まず離れたところから眺め、次に、どこかおかしいと感じる細部に近づいて見ます。5つのパスを、この順番で行います。
- ファイルの一覧。変更されたファイルの組み合わせに意外なところはないか? 決済ハンドラーの変更が、メールのテンプレートに触れるべきではありません。
- インポートと依存関係の変更。新しいインポートは、隠れたコミットメントを示すもっとも信頼できるシグナルです。
- テストの差分。振る舞いが変わったのにテストが変わっていないなら、可能性は2つ──良いか悪いか──です。そしてその曖昧さを、本番コードを1行も読む前に解消します。
- 新しい関数の形。長い、深くネストした、重複した条件分岐──これらは手抜きの指紋です。
- 名前。悪い名前は、弱い意図の指紋です。
そのうえで初めて、特定のブロックを詳しく読みます──スキャンで引っかかったものだけを。このアプローチは、逆説的ですが、1行ずつ読むよりも速く、しかも厳密です。詳しい内容はここでは明かしませんが、大半のエンジニアは意識的に2週間練習すれば、目に見えて上達します。
オートコンプリートの罠
この章がオートコンプリートの罠(autocomplete trap)と名付けている、具体的で、誘惑的な失敗モードがあります。エージェントが、局所的にはもっともらしいコードを生成します。コンパイルは通ります。変更前に書かれていたテストも通ります。印象主義的スキャニングで見る限り、自分で書いたとしてもこうなっただろうという見た目をしています。だからあなたはそれを受け入れます。そしてまた次のひとつを。そしてまた次のひとつを。
数時間後、ふと顔を上げると、あるサブシステムが2,000行も膨らんでいて、そのどれにもあなたは深く関与していないことに気づきます。サブシステムは動きます。設計としても悪くないかもしれません。けれども、もし問われても、あなたはその中の特定の決定をひとつとして弁護できないでしょう。あなたはもはや作者ではありません。承認者です。そしてそのサブシステムが本番で壊れたとき、本来なら書く過程で起きていたはずの学びは起きていません。あなたは他人のコードをデバッグしているのです。
「オートコンプリートの罠がたちが悪いのは、それが生産性のように感じられるからだ。関与は生成に比例して増やさなければならない。生成が安価になれば、関与こそが希少な資源になる──そして自らの関与のペースを保てないエンジニアは、自らのプロジェクトのペースも保てない。」
この章は、ある創業者の話から始まります。彼はたった一度の週末で、物流プラットフォームの4万行のプロトタイプを作り上げました。月曜日にはそのデモで資金調達をしました。木曜日には、コードベースは保守不能になっていました──漠然とではなく、正確な意味で。どこか離れた場所を壊さずに変更を加えることが、確実にはできなくなっていたのです。2つの異なるモジュールが、それぞれ独自に、微妙にフィールドの異なる「Order」型を発明していました。3つの設定システムが互いにぶつかり合っていました。テストはすべて通っていました。それぞれのテストが、テスト対象の機能と一緒に生成され、同じ前提を共有していたからです。立て直しには、ランウェイ1か月分と、1週間分の睡眠が必要でした。
決定疲れは静かな殺し屋です
現代のエージェント型ワークフローは、小さな決定の流れを次々と生み出します。この差分を受け入れるか? この計画を承認するか? このテストで十分か? どの決定にも認知的なコストがかかり、そのコストは積み重なっていきます。
他の分野からの類例は、身の引き締まるものです。仮釈放審査委員会は、一日の遅い時間ほど仮釈放を認めなくなります。医師は、長いシフトのあとほど不要な検査を指示するようになります。AIコーディングにおける決定疲れについての良い学術研究はまだ見たことがありませんが、私が一緒に仕事をしてきたチームからの経験的な証拠は明白です。本番障害を引き起こす差分は、勤務時間の最後の2時間に承認されたものが不釣り合いに多いのです。
防御は英雄的なものではなく、構造的なものです。鋭さを保つために意志の力に頼らないでください。ワークフローを設計して、リスクの低い決定は自動承認し、リスクの高い決定は頭がすっきりしている時間帯に集中させるのです。決定の質を、性格の特性としてではなく、予算を組んで管理すべき資源として扱ってください。
関与し続けるエンジニアの7つの習慣
この章では、オートコンプリートの罠に陥らないエンジニアに共通する7つの習慣を整理しています。ここでは名前だけを挙げます。それぞれの詳しい解説は本書にあります。
- 言語化する。差分を読むときは、自分自身かラバーダックに向かって話してください。黙読は、ごまかすのがあまりにも簡単です。
- 見る前に予測する。テストファイルを開く前に、どんなテストがあるはずかを自問してください。それから比べます。
- 実際に動かす。ブランチをチェックアウトする。サーバーを起動する。ボタンをクリックする。読んで見逃したバグは、クリックでつまずくことがよくあります。
- エージェントに説明させる。良いエージェントは、自らの前提が見えるような形で答えます。悪い答えは、さらに深く掘るべきだというシグナルです。
- 小さな個人ログをつける。1セッションあたり数行。そのログは、離脱に抗う圧縮された記憶になります。
- 大きな決定の前には休憩をとる。自分の認知的な予算を尊重してください。
- 受け入れるよりも多く却下する。最高品質の成果を出しているエンジニアは、却下と受け入れの比率が3:1かそれ以上であることが少なくありません。彼らは受け入れることで勝利に向かっているのではありません。却下することで勝利に向かっているのです。
説明し直しテスト(Explain-It-Back Test)
この章の締めくくりは、シンプルで手軽な実践です。エージェントが生成した、ある程度以上の規模の変更をマージする前に、差分を閉じてください。白紙のドキュメントを開きます。その変更を自分の言葉で説明します。できないなら、マージできるほど十分には理解していないということです。
このテストにかかるのは5分です。それで物質的離脱による失敗の大半を防げます。それなのに、ほとんど実践されていません。冗長に感じられるからです──コードは今読んだばかりなのだから、もちろん説明できる、と。実際にやってみると、「読んだ」つもりのうちどれほどが理解ではなくパターンマッチングだったのかが明らかになります。
次回 ── 第3章「コンテキスト・モメンタムと経路依存」 関与できるようになると、2つ目の問題が現れます。エージェントに与える最初のプロンプトが、その後に続くすべてに対して不釣り合いなほど大きな影響力を持つのです。第3章は、コンテキストがどのようにドリフトし、規約がどのように腐食していくのか、そして月に1,000回ものエージェントのセッションに触れられるコードベースであっても、どうすれば舵を取れる状態に保てるのかについての章です。
📖 さらに詳しく知りたい方へ
この章では、5つのパスからなる印象主義的スキャニングの手法の全体、離脱の7つのアンチパターン(「あとで読む」マージや、モデルを神託とみなす罠を含む)、物質的離脱が午前4時の障害に変わったオンコール担当エンジニアのケーススタディ、そしてフィンテックのチームを不要な書き直しから救う2週間の理解スプリントを解説しています。
下田 昌平
開発に関するインプットをアウトプットしています。カテゴリー
タグ
検索ログ
開発・技術相談
システム開発や技術検証、要件定義の作成、アーキテクチャ設計、 テスト設計、運用設計まで、一気通貫で支援しています。 企画段階の「まず相談したい」レベルから、実装・運用まで 幅広く対応できますので、お気軽にお問い合わせください。
お問い合わせ