AI の答えは、採用されたときに責任になる

by

AI を使うことは、すでに特別な行為ではない。文章を整える、情報を要約する、比較表を作る、コード案を出す、反論を並べる、判断材料を整理する。こうした作業は、対話型 AI に依頼すれば短時間で形になる。便利であることは間違いない。しかし、出力が短時間で整うようになるほど、別の問題が見えにくくなる。整った文章は、正しい文章とは限らない。見やすい表は、妥当な比較とは限らない。自然な説明は、根拠のある説明とは限らない。AI の出力は、人間が読む前から完成した文の形をしている。そのため、出力はまだ素材であるにもかかわらず、すでに判断済みの結論であるかのように見えやすい。

既稿では、AI に任せる前に、人間が問いの切り方、判断軸、優先順位、任せない領域を決める必要を整理した[1]。本稿では、その理由をさらに掘り下げる。AI を使うこと自体が問題なのではない。問題は、AI が出したものを、人間がどの段階で、どの程度確認し、どの責任で採用するのかである。AI の回答を下書きとして読む場合と、業務判断の根拠として使う場合では、同じ出力でも意味が変わる。前者では素材であり、後者では判断になる。この差を見落とすと、AI 利用の問題は単なる性能論に縮んでしまう。

本稿の中心命題は、次の一点である。AI 時代の問題は、誤った出力が生成されることだけではない。より深い問題は、誤った出力が、人間の検証過程を十分に通らないまま、人間の判断として採用されることである。AI が何かを出すことと、それを人間が使うことは同じではない。出力は素材であり、候補であり、仮説である。それを文書に入れる、コードに反映する、判断材料にする、他者へ説明する、組織の意思決定に使う。その段階で、AI の出力は人間の判断になる。したがって、責任の焦点は、AI が何を出したかだけでなく、人間と組織がそれをどのように採用したかに移る。

1. 問題は、AI が間違えることだけではない

AI の誤りを考えるとき、最初に思い浮かぶのは「AI が間違った答えを出す」という場面である。これは確かに重要である。調査内容が誤っている。存在しない文献を挙げる。仕様に合わないコードを書く。医療や法律に関する一般論を、個別事例に合うかのように述べる。こうした誤りは、AI 利用の分かりやすい危険である。実際、AI が誤った内容を出さなければ、多くの問題は起こらないように見える。

しかし、この見方だけでは問題の半分しか見ていない。AI が誤った出力を出しても、人間がそれを疑い、調べ直し、捨てるなら、被害はそこで止まる。反対に、出力が誤っていても、人間がそれを正しそうだと感じ、検証せずに採用すれば、その誤りは文書、判断、行動、制度の中へ入る。つまり、問題の焦点は AI の出力地点だけではなく、人間がそれを採用する地点にもある。誤りは、生成された時点ではまだ可能性にとどまる。採用されたとき、それは現実の判断として働き始める。

ここで重要なのは、AI の出力が単なる断片ではなく、すでに使える形で現れることである。検索結果なら、利用者は複数の資料を開き、比較し、出典を確認する必要がある。電卓の結果なら、入力式が正しいかどうかを別に見なければならない。ところが対話型 AI は、結論、理由、比較、注意点、反論までを一つの文章としてまとめて出す。そのため、利用者は、素材を受け取っただけでなく、検討済みの判断を受け取ったように感じやすい。この感覚が、検証を省略させる。

段階 起きていること 問題になる点
生成 AI が文章、要約、比較、コード、説明を出す。 出力には誤り、推測、抜け、過剰な断定が含まれうる。
読解 人間が出力を読み、意味を理解したつもりになる。 流暢な文体、自然な構成、もっともらしい理由が、検証前の納得感を生む。
評価 人間が出力を確認するか、そのまま受け入れるかを選ぶ。 確認すべき点が明示されていないと、読んだことが検証したことに置き換わる。
採用 人間が出力を文書、判断、コード、説明、意思決定に使う。 未確認の出力が、人間の判断として外部へ出る。
波及 採用された内容が、他者の判断や組織手続きに影響する。 誤りの出所が見えにくくなり、責任の所在も曖昧になる。

この段階を分けると、AI 利用の危険は単純なものではないことが分かる。AI が誤ることは出発点である。しかし、その誤りが実際に問題になるかどうかは、人間がどこで止めるかによって変わる。生成の時点で誤りがあっても、読解や評価の段階で気づけば、採用には至らない。反対に、読解を評価と取り違え、評価を省いたまま採用すれば、誤りは人間の判断として定着する。

したがって、本稿で問うのは「AI は正しいか」だけではない。より重要なのは、「AI が出したものは、どこで人間の判断になるのか」である。この問いを置くと、AI 利用の問題は、モデル性能だけではなく、人間の認知特性、業務手続き、組織制度の問題として見えてくる。AI が何を生成できるかだけを見ていては不十分である。AI の出力が、人間の確認を経て採用されるのか、それとも確認を飛び越えて判断として扱われるのか。そこに、AI 時代の責任の入口がある。

2. cognitive surrender という入口

この問題を考える入口として、Steven D. Shaw と Gideon Nave のプレプリントは有用である。彼らは、AI を利用する人間が、AI の出力を最小限の吟味で採用してしまう現象を cognitive surrender と呼び、AI を従来の System 1 と System 2 に続く System 3 として位置づける枠組みを提示している[2]。ここでいう System 1 は、速く直感的な処理である。System 2 は、遅く熟慮的な処理である。System 3 は、人間の外部にある AI が、問いの整理、候補の提示、理由づけ、結論の形成に介入する第三の系として置かれている。

この枠組みが重要なのは、AI を単なる道具としてではなく、人間の思考過程に入り込む外部的な判断資源として扱っている点である。電卓は計算結果を返す。検索エンジンは資料への入口を返す。辞書は語の意味を返す。これに対して、対話型 AI は、答え、理由、比較、注意点、反論、文章構成をまとめて返す。つまり、AI は部分的な補助にとどまらず、考える順序そのものを先に組み立てることがある。そこでは、人間が AI を使っているように見えても、実際には AI が作った枠組みの中で人間が後から判断している場合がある。

概念 本稿での意味 誤解しやすい点
System 1 速く直感的に働く処理であり、即座の印象やもっともらしさに反応する。 直感は常に誤りという意味ではなく、短時間で判断するための有効な仕組みでもある。
System 2 時間と注意を使って、直感的な答えを吟味し、必要に応じて訂正する処理である。 熟慮すれば必ず正しいという意味ではなく、検証や反例確認を担う処理として重要である。
System 3 AI のような外部システムが、候補、理由、構成、結論を提示し、人間の思考過程に介入する状態を指す。 AI が自律的な責任主体になるという意味ではなく、人間の判断形成に影響する外部資源として捉える枠組みである。
cognitive surrender AI の出力を十分に吟味せず、自分の判断として採用してしまう現象である。 AI を使うこと自体ではなく、外部化した結果を評価せずに受け入れることが問題である。

この研究で用いられた課題の背景には、Cognitive Reflection Test がある。これは、直感的にはもっともらしいが誤っている答えを誘発し、熟考によってそれを訂正できるかを見るための課題である[3]。たとえば、すぐに思いつく答えがあり、それがもっともらしく見える。しかし、少し立ち止まって条件を読み直すと、その答えでは合わないことに気づく。このような課題は、人間が直感的な答えをどの程度抑制し、再検討できるかを見るために使われる。

したがって、この研究を日常判断全般にそのまま広げることはできない。実験は、特定の推論課題を対象にしている。職場の判断、医療相談、法律相談、コードレビュー、記事執筆、政策形成のすべてが同じ仕組みで動くとまでは言えない。ここは慎重に読む必要がある。しかし、それでも重要なのは、AI が正しいときだけでなく、誤ったときにも、人間がその出力へ強く引き寄せられる傾向が観察された点である。限定された課題であっても、AI 出力が人間の最終回答を動かしうることは、採用過程を考える入口になる。

この結果を、単に「人間は AI に騙されやすい」と読むべきではない。その読み方では、問題が個人の注意不足に縮んでしまう。むしろ、この研究が示唆するのは、人間は外部の判断材料を使うとき、その正しさを一つひとつ検証しているわけではない、という事実である。人間は、時間、知識、注意、記憶に制約を持つ。その制約のもとで、もっともらしいもの、権威がありそうなもの、過去に役立ったもの、形式が整ったものを手がかりにする。AI は、この手がかりの多くを同時に満たしてしまう。

ここから、本稿の問題設定は一段進む。AI の誤答そのものを数えるだけでは不十分である。なぜなら、誤答が問題になるかどうかは、出力の正誤だけでなく、人間がそれをどのように読み、どの程度疑い、どの手続きで採用するかによって決まるからである。cognitive surrender という概念は、AI が人間の思考を一方的に奪うという話ではない。むしろ、人間が判断したつもりのまま、AI の出力を自分の判断へ変換してしまう地点を指している。

3. 人間は、真偽ではなく真に見える形式に反応する

人間の判断は、純粋に論理だけで動いているわけではない。Tversky と Kahneman が示したように、人間は不確実な状況で、ヒューリスティクスと呼ばれる近道を使う[4]。ヒューリスティクスとは、すべての情報を細かく検証するのではなく、目立つ特徴、過去の経験、代表的な例、直感的な印象を手がかりにして判断する仕組みである。これは単なる欠陥ではない。すべてを一つひとつ熟考していたら、生活も仕事も成り立たない。人間は限られた時間と注意の中で行動するため、短時間で判断する仕組みを必要としている。

Kahneman の整理では、人間の判断には、速く自動的な処理と、遅く努力を要する処理が関わる[5]。速い処理は、すぐに印象を作る。遅い処理は、その印象を吟味し、必要に応じて修正する。日常では、この二つは組み合わさって働く。最初に直感的な見立てを置き、必要があれば立ち止まって確認する。この仕組みは、多くの場面で有効である。しかし、最初の印象が強く、しかもそれが整った形式で与えられると、遅い処理が十分に働く前に、納得感だけが先に立つことがある。

AI の出力は、この近道に強く働きかける。文章が滑らかである。章立てが自然である。専門語が並んでいる。反論らしいものも含まれている。注意点も書かれている。表も整っている。こうした形式は、読者に「これはよく考えられている」という印象を与える。しかし、形式が整っていることは、内容が検証済みであることを意味しない。見た目の整合性と、根拠の確かさは別である。ここを取り違えると、読者は文章の完成度を、判断の妥当性の代わりに使ってしまう。

手がかり 読者が受け取りやすい印象 実際に確認すべきこと
流暢な文章 内容が整理され、対象が十分に理解されているように見える。 根拠が実在し、主張と根拠が対応しているかを確認する必要がある。
自然な章立て 論理が順序立てて展開されているように見える。 章の順序が本当に因果関係や論証の順序に対応しているかを確認する必要がある。
専門語 専門的な知識に基づいているように見える。 その語が本文の論理で正しく使われ、必要な範囲で説明されているかを確認する必要がある。
比較表 論点が網羅され、公平に比較されているように見える。 比較軸が妥当か、重要な観点が落ちていないか、同じ粒度の項目を比べているかを確認する必要がある。
反論の提示 反対意見も考慮したうえで結論を出しているように見える。 反論が形式的に置かれているだけではなく、結論を本当に制約しているかを確認する必要がある。
注意書き 慎重で中立的な出力に見える。 注意書きが主張の強さを本当に制限しているか、本文の断定と矛盾していないかを確認する必要がある。

この表で見えるのは、AI の出力が持つ形式的な強さである。流暢な文章、自然な章立て、専門語、比較表、反論、注意書きは、それぞれ単独では悪いものではない。むしろ、適切に使えば理解を助ける。しかし、それらが根拠確認の代わりに働くと、問題が起きる。読者は、内容が正しいから納得するのではなく、納得しやすい形で提示されているから正しいように感じる。この順序の反転が、AI 出力の採用過程で重要になる。

ここで重要なのは、AI の誤りが粗雑に現れるとは限らないことである。むしろ、AI は誤りを、理由、構成、専門語、注意書きとともに提示できる。誤りが単独で出るのではなく、納得しやすい物語として出る。たとえば、存在しない文献をもっともらしい著者名や発行年とともに示す。仕様に合わないコードを、自然な関数名や整ったコメントとともに出す。根拠が弱い比較を、見やすい表として提示する。このとき、誤りは裸の誤りではなく、受け入れやすい形式をまとった誤りになる。

したがって、危険は出力内容だけではなく、出力形式にもある。内容が誤っているかどうかは、確認すれば分かる場合がある。しかし、形式が整っていることによって確認の必要性が低く見えてしまう場合、問題はより深い。AI は、正しい答えと誤った答えを、同じように滑らかで、同じように自然で、同じように説明らしく提示できる。だからこそ、人間は、まず形式から生じる納得感を一度切り離し、そのうえで根拠、前提、反例、適用範囲を確認しなければならない。

4. AI は判断を奪うのではなく、判断した気分を与える

AI 利用で起きるのは、人間がまったく考えなくなるという単純な変化ではない。より見えにくいのは、人間が考えているつもりのまま、AI が作った構造を追認してしまうことである。AI は結論だけを出すのではない。問いの分け方、論点の順序、比較軸、重要度、反論、結論の強さまで、まとめて提示する。つまり、AI の出力は、単なる答えではなく、考えるための枠組みそのものとして現れる。

この点が重要である。人間は、完成した結論だけを押しつけられた場合には、かえって警戒しやすい。しかし、論点整理、比較、注意点、反論、暫定結論が一体になっていると、それを読みながら自分でも考えているように感じる。出力を読んで、修正し、言い換え、部分的に削る。すると、能動的に判断したように見える。しかし、最初の地形を作ったのは AI である場合がある。どの論点を重要と見るか、どの対立を中心に置くか、どの結論へ向かうかが、最初の出力によってすでに決まっている。人間は、その中で微調整しているだけかもしれない。

AI が先に置くもの 人間が感じやすいこと 実際に起きうること
問いの分け方 問題が整理されたように感じる。 本来問うべき点が落ち、AI が分けた論点の中だけで考えてしまう。
論点の順序 論理が自然に進んでいるように感じる。 最初に置かれた論点が過大に重く見え、後続の判断を方向づける。
比較軸 公平に比較されているように感じる。 比較すべき軸が不足していても、表の形によって網羅されているように見える。
反論 反対意見も検討済みであるように感じる。 弱い反論だけが選ばれ、結論を補強するための形式になっている場合がある。
結論の強さ 判断の落としどころが見えたように感じる。 本来は保留すべき問題でも、断定、推奨、分類の形で閉じられてしまう。

この表で示したように、AI が先に置くものは、単なる部品ではない。問いの分け方は、何を問題として見るかを決める。論点の順序は、どこから考え始めるかを決める。比較軸は、何を重要な差異として扱うかを決める。反論の置き方は、どの程度まで結論を制限するかを決める。結論の強さは、判断を保留するのか、採用するのか、断定するのかを決める。つまり、AI は文章を作っているだけではなく、判断の通路を作っている。

この構造では、人間の作業は完全には消えない。むしろ、表面的には作業が増えることさえある。出力を読み、不要な箇所を削り、言い回しを直し、別の例を加え、結論を調整する。しかし、その作業が必ずしも判断の起点を取り戻すことを意味するわけではない。AI が作った枠組みの内部で修正しているだけなら、人間は作業していても、最初の問題設定はすでに受け入れている。ここに、AI 利用の見えにくい危うさがある。

既稿では、生成 AI が普及すると、成果物を作る能力よりも、問いを設計し、評価し、統合し、制御する能力が重要になると整理した[6]。これは本稿の問題と直結する。AI が出した構造に従うだけなら、人間の役割は下書きの修正に縮む。反対に、人間が先に目的、前提、判断軸、停止条件を置くなら、AI は判断主体ではなく補助になる。重要なのは、AI に出力させる前に、人間の側で何を問うのか、何を採用条件とするのか、どこから先は任せないのかを決めておくことである。

ここで区別すべきなのは、修正と判断である。AI の出力を直すことは、必ずしも判断したことを意味しない。誤字を直す、表現を柔らかくする、段落を並べ替える、説明を加える。これらは文章上の修正である。一方で、前提を確認する、比較軸を入れ替える、反例を探す、結論を弱める、採用しないと決める。これらは判断である。AI が作ったものを人間が触っているからといって、人間が判断を保持しているとは限らない。

つまり、AI の危険は、人間から思考を露骨に奪うことではない。AI は、人間に「自分で判断した」という感覚を与えながら、判断の起点を先取りする。この構造が、cognitive surrender を見えにくくする。人間が何もしなくなるのではない。人間が作業しているにもかかわらず、最初の枠組み、重要な論点、結論の方向を AI に預けてしまう。だからこそ、AI 利用では、出力後の修正だけでなく、出力前の問いの設計が重要になる。

5. 認知コスト削減は合理的だが、AI 環境では誤作動する

AI の出力を検証せずに採用してしまうことを、単に怠慢として片づけるべきではない。人間は、すべての情報を自分で確認しているわけではない。地図アプリに経路を任せる。電卓に計算を任せる。辞書で意味を確認する。検索エンジンで資料を探す。こうした外部化は、日常の合理的な省力化である。人間の時間、注意、記憶、知識には限界がある。その限界を補うために、道具、記録、他者、制度を使うことは、むしろ知的活動の基本である。

既稿では、スマートフォンや対話型 AI の問題を、単なる時間消費ではなく、注意と認知が外部システムに接続される問題として整理した[7]。また、認知バイアスについて、バイアスを単なる欠陥ではなく、制約下で働く近道として見る必要を整理した[8]。この見方を AI に適用すると、誤出力の採用は、人間が愚かだから起きるというより、通常は役立つ省力化が、AI の流暢な出力形式によって誤作動する現象として見えてくる。つまり、問題は省力化そのものではない。省力化が、検証の省略へ変わる地点にある。

この点を見落とすと、AI 利用の問題は「きちんと確認しない人間が悪い」という精神論に縮んでしまう。しかし、人間が外部の道具に頼ること自体は問題ではない。紙にメモすることも、予定表を使うことも、計算機に計算させることも、専門家の説明を読むことも、広い意味では認知の外部化である。Risko と Gilbert は、このように内部で処理できる情報や作業を外部の行為や道具に移すことを cognitive offloading として整理している[9]。外部化は、人間の能力低下をただちに意味しない。適切に使えば、複雑な問題に集中するための足場になる。

外部化の対象 通常の利点 AI 環境で起きやすい問題
記憶 予定表、メモ、記録を使うことで、細部を忘れても後から確認できる。 AI の要約だけに頼ると、元の文書にあった条件、留保、文脈が見えなくなる。
計算 電卓や表計算を使うことで、手作業の誤りを減らし、複雑な処理を扱える。 入力条件や式の意味を確認しないまま、出力された数値だけを判断根拠にしてしまう。
検索 検索エンジンを使うことで、資料への入口を素早く見つけられる。 AI が資料探索、要約、解釈をまとめて返すため、どの情報源に基づくのかが曖昧になる。
推論 他者の助言や専門的な解説を使うことで、自分だけでは見えない観点を補える。 AI が結論と理由を同時に提示するため、理由が本当に結論を支えているかを確認しにくくなる。
表現 文章化を補助させることで、考えを伝わりやすい形に整えられる。 文章が整うことで、未検証の内容まで確定した見解のように見えてしまう。

この表で重要なのは、外部化には本来の利点があるという点である。記憶を外部化すれば、細部を覚え続ける負担が減る。計算を外部化すれば、手計算の誤りを減らせる。検索を外部化すれば、資料に到達しやすくなる。推論を外部化すれば、自分では見落とす観点を得られる。表現を外部化すれば、考えを読みやすく整えられる。したがって、AI を使わないことが知的に正しい、という結論にはならない。問題は、外部化によって得た結果を、人間の判断へ戻す工程が残っているかどうかである。

AI がこの問題を難しくするのは、複数の外部化を一つの出力に統合するからである。検索、要約、推論、説明、文章化が、同じ回答の中に並ぶ。利用者は、資料を探しているつもりで、同時に解釈も受け取る。要約を読んでいるつもりで、同時に結論の方向づけも受け取る。文章を整えているつもりで、同時に論理の順序まで組み替えられる。すると、どこまでが事実で、どこからが推測で、どこが表現上の補完なのかが見えにくくなる。

ここに、認知コスト削減の誤作動がある。人間は、負担を下げるために AI を使う。これは自然であり、合理的でもある。しかし、AI の出力が十分に整っていると、負担が下がるだけでなく、確認する必要そのものが低く見えてしまう。読んだ。理解した。自然に見えた。だから使える。この流れが生まれると、読解と検証が混同される。出力を理解したことと、その出力が正しいと確認したことは違うにもかかわらず、その差が薄くなる。

したがって、問題は、認知を外部化することではない。外部化した結果を、自分の判断へ戻さないことである。道具を使うことと、道具の出力を無条件に採用することは違う。AI はこの境界を曖昧にする。なぜなら、AI は素材ではなく、素材を解釈し、整理し、理由づけし、文章化したものを返すからである。その出力は、利用者にとってすでに判断済みのものに見える。しかし、実際には、そこにはまだ人間が確認すべき前提、根拠、反例、適用範囲が残っている。

この章で確認したいのは、AI 利用を道徳的な怠慢として処理しないことである。人間は制約の中で判断する。そのため、外部化は避けられない。だが、外部化が合理的であることと、外部化された結果をそのまま採用してよいことは別である。AI 環境では、この区別が崩れやすい。だからこそ、次に必要になるのは、外部化と明け渡しを分けることである。AI に作業を任せることと、AI に判断を渡すことは同じではない。

6. 外部化と明け渡しは違う

認知負荷を外部へ逃がすことは、cognitive offloading と呼ばれる。Risko と Gilbert は、外部の行動や道具を使って認知要求を下げる現象を整理している[9]。これは悪いことではない。メモを取る、予定表を使う、計算機に計算させる、検索で資料を探す。こうした外部化は、人間の知的活動を支えている。人間は、頭の中だけで考えるのではなく、紙、道具、記録、計算機、他者の知識を使いながら考える存在である。

しかし、外部化と明け渡しは違う。外部化とは、人間が判断するために必要な作業の一部を外に出すことである。明け渡しとは、外に出した結果を評価せず、そのまま自分の判断として受け入れることである。この違いは小さく見えるが、AI 利用では決定的である。AI に候補を出させることは外部化である。AI の候補を検証せずに採用することは、判断の明け渡しに近い。AI に文章を整えさせることは外部化である。AI が作った論理構造を、そのまま自分の主張として使うことは、判断起点の移譲である。AI にコード案を出させることは外部化である。仕様確認やテストなしに取り込むことは、採用過程の省略である。

この区別が重要なのは、AI の出力が、最初から採用可能な形で現れるからである。候補であるはずの文章が、完成稿のように見える。仮説であるはずの要約が、調査結果のように見える。試作品であるはずのコードが、実装済みの解決策のように見える。つまり、AI は外部化の結果を、明け渡しやすい形に整えて返す。ここで人間が立ち止まらなければ、外部化はそのまま採用に変わる。

利用形態 外部化としての使い方 明け渡しに近づく使い方
調査 論点候補、検索語、確認すべき資料、反対説を出させる。 提示された要約を一次情報の代わりに使い、出典や文脈を確認しない。
執筆 表現の整理、構成案、反論候補、説明順序の候補を出させる。 AI が作った問題設定、章立て、結論の方向を、そのまま自分の主張として採用する。
開発 コード案、テスト観点、境界条件、代替実装を出させる。 仕様、既存設計、例外処理、実行結果を確認せずにリポジトリへ反映する。
意思決定 選択肢、リスク、比較軸、未確認事項を洗い出させる。 比較表の見た目や結論欄を根拠として、採用、不採用、優先順位を決める。
レビュー 見落とし候補、矛盾、説明不足、確認観点を列挙させる。 AI が問題なしと述べたことを、実際の確認完了と同一視する。

この表で分かるように、同じ AI 利用でも、使い方によって意味が変わる。調査で AI を使うこと自体は問題ではない。問題は、AI の要約を一次情報の代わりにすることである。執筆で AI を使うこと自体は問題ではない。問題は、AI が置いた問いを、自分が立てた問いとして扱うことである。開発で AI を使うこと自体は問題ではない。問題は、仕様、テスト、運用条件を確認せず、コード案を実装として扱うことである。つまり、危険は利用の有無ではなく、外部化したものをどこで人間の判断に戻すかにある。

ここでいう「人間の判断に戻す」とは、感覚的に納得することではない。戻すとは、前提を確認し、根拠を確かめ、反例を考え、適用範囲を見直し、採用理由を説明できる状態にすることである。AI が出したものを読んで理解しただけでは、まだ戻したことにならない。理解は読解であり、確認は評価であり、採用は判断である。この三つを分けないと、AI の出力は、読まれた瞬間に判断へ変わってしまう。

この区別を置くと、AI 利用を禁止する必要はないことが分かる。必要なのは、AI に何を外部化し、何を外部化しないのかを明確にすることである。とくに、採用判断、責任、価値判断、根拠確認は、人間側に残さなければならない。AI に出力させることはできる。AI に候補を並べさせることもできる。AI に説明を整えさせることもできる。しかし、何を採用するか、なぜ採用するか、どの範囲で有効と見るか、どの不確実性を残すかは、人間が引き受ける必要がある。

したがって、外部化と明け渡しを分ける境界は、AI を使ったかどうかでは決まらない。境界は、AI の出力を評価する工程が残っているかどうかで決まる。外部化は、人間の判断を支える。明け渡しは、人間の判断を空洞化する。AI 時代に必要なのは、AI を遠ざけることではなく、外部化した結果をどこで受け取り直し、どこで採用し、どこで採用しないかを決める手続きである。

7. 生成と採用を分ける

AI 出力は、生成された時点ではまだ判断ではない。判断になるのは、人間がそれを採用したときである。ここを分けないと、AI 利用の責任は曖昧になる。AI が文章案を出しただけなら、それは素材である。その文章を本稿に入れた時点で、書き手の判断になる。AI がコード案を出しただけなら、それは候補である。そのコードをリポジトリに反映した時点で、開発者の判断になる。AI が調査結果を要約しただけなら、それは仮説である。その要約を報告書に入れた時点で、報告者の判断になる。つまり、AI の出力は、採用される前には候補にすぎない。採用された瞬間に、人間の行為へ変わる。

この区別は、責任を AI から人間へ単純に押し戻すためのものではない。むしろ、責任がどこで発生するのかを細かく見るために必要である。AI が誤った内容を生成したことと、人間がその内容を確認せずに使ったことは、同じではない。前者は出力の問題であり、後者は採用手続きの問題である。両者を混ぜると、「AI が間違えたから仕方ない」か、「人間が全部確認すべきだった」のどちらかに議論が偏る。しかし実際には、出力、確認、採用、公開、運用という複数の段階がある。それぞれの段階で、止められる誤りと、止められない誤りが違う。

対象 生成された時点での性質 採用された時点での性質
文章案 構成、表現、論点の候補であり、まだ書き手の見解ではない。 本文に入れた時点で、書き手がその表現と論理を引き受けたことになる。
調査要約 確認すべき資料や論点への入口であり、一次情報の代替ではない。 報告書に入れた時点で、報告者がその内容を根拠として扱ったことになる。
コード案 実装候補であり、仕様、既存設計、例外条件との整合はまだ確認されていない。 リポジトリに反映した時点で、開発者がその動作と保守責任を引き受けたことになる。
比較表 選択肢と比較軸の仮置きであり、重要な観点が抜けている可能性がある。 意思決定に使った時点で、その比較軸を妥当な判断枠として採用したことになる。
助言 考慮すべき観点の候補であり、個別状況に適用できるかは未確認である。 行動に移した時点で、利用者がその助言を自分の判断として実行したことになる。

この表で見えるのは、生成物の意味が、採用の前後で変わることである。文章案は、出された時点ではまだ案である。調査要約は、出された時点ではまだ入口である。コード案は、出された時点ではまだ候補である。比較表は、出された時点ではまだ仮の整理である。しかし、それらが本文、報告書、リポジトリ、意思決定に組み込まれると、単なる候補ではなくなる。そこから先は、人間が採用したものとして扱われる。

大規模言語モデルがもっともらしい文章を生成しうることは、以前から議論されてきた。Bender らは、大規模言語モデルのリスクを、言語形式の操作と意味理解のずれ、データ、バイアス、文書化の問題として批判的に整理した[10]。また、LLM の hallucination、つまりもっともらしいが事実に合わない生成については、分類、要因、検出、緩和の研究が蓄積している[11]。さらに、Farquhar らは semantic entropy を用いた hallucination 検出を提案している[12]。これらの研究は、AI 出力の誤りが例外的な故障ではなく、実運用上の継続的な課題であることを示している。

ただし、本稿の焦点は、hallucination の技術的検出そのものではない。技術的な検出は重要である。誤りを減らすことも、誤りを検出することも、出力の信頼性を上げるために必要である。しかし、それだけでは十分ではない。なぜなら、誤りを完全に消すことは難しく、また高精度の出力であっても、個別の場面では誤りが混入しうるからである。モデルの側で誤りを減らす努力と、人間の側で採用前に確認する手続きは、別の層の対策である。

ここで重要なのは、誤りがありうる出力を、人間がどのように扱うかである。誤りを完全に消すことができなくても、採用前に検証する仕組みがあれば、誤りはそこで止まる。反対に、モデルの精度が高くても、採用手続きが弱ければ、まれな誤りが重大な判断に入り込む。たとえば、AI が提示した文献名を一次情報で確認せずに参考文献へ入れる。AI が作ったコードをテストせずに反映する。AI が作った比較表を、そのまま採用判断の根拠にする。これらは、出力の問題であると同時に、採用過程の問題である。

したがって、AI 利用では、生成物を受け取ったあとに、少なくとも三つの問いを置く必要がある。第一に、それは事実か、推測か、提案か。第二に、それはどの根拠に基づいているのか。第三に、それを採用した場合、誰の判断として外部に出るのか。この三つを分けると、AI 出力はすぐに判断へ変わらない。いったん素材として扱われ、確認され、必要に応じて捨てられ、採用される場合には採用理由が残る。

確認観点 問うべきこと 確認しない場合に起きること
性質 その出力は事実、推測、提案、表現補助のどれに当たるのかを分ける。 推測や提案が、確認済みの事実のように扱われる。
根拠 主張を支える一次情報、仕様、実行結果、文脈が存在するかを確かめる。 もっともらしい説明が、根拠の代わりに使われる。
適用範囲 その出力が、どの条件では使え、どの条件では使えないのかを確認する。 一般論が個別事例にそのまま当てはめられる。
採用責任 採用後に、その内容を誰の判断として説明するのかを明確にする。 AI が言ったことなのか、人間が判断したことなのかが曖昧になる。

このように見ると、責任は生成地点だけに宿るのではない。AI が何を出したかは重要である。しかし、人間と組織が何を採用したかは、さらに重要である。AI の出力は、採用前には素材である。採用後には、人間の判断として働く。だからこそ、AI 時代の責任は、出力そのものではなく、出力をどのように読み、確認し、採用したかという過程に宿る。

8. 説明が付くほど安全になるとは限らない

AI の出力に説明が付いていれば、人間は適切に判断できるのだろうか。直感的には、説明があるほうが安全に見える。結論だけを示されるより、なぜその結論に至ったのかが書かれているほうが、利用者は確認しやすい。根拠、前提、比較、注意点が示されれば、誤りにも気づきやすくなるように思える。しかし、説明は常に過信を減らすわけではない。説明は、検証の足場にもなるが、同時に、誤った結論をもっともらしく見せる装置にもなる。

ここで区別すべきなのは、説明の有無と、説明の検証可能性である。説明があること自体は重要である。しかし、その説明が、出典、条件、前提、反例、適用範囲を確認できる形になっていなければ、利用者は説明を読んだだけで理解した気分になりやすい。説明が長い。論理がつながっているように見える。専門語が使われている。注意書きもある。こうした要素は、出力を吟味する助けになる場合もあるが、反対に、納得感を先に作ってしまう場合もある。

Bansal らは、AI の説明が人間と AI の補完的なチーム性能を高めるとは限らず、説明があることで、AI の推奨を正誤にかかわらず受け入れやすくなる場合があることを示した[13]。ここでいう補完的な性能とは、人間と AI がそれぞれの強みを補い合い、単独よりよい判断をすることである。しかし、説明が付くことで人間が AI の判断をより正確に選別できるとは限らない。説明が、誤った推奨にも同じように説得力を与えるなら、人間は AI を補正する役割を果たせなくなる。

Kim らも、LLM の回答に説明が付くと、正しい回答だけでなく誤った回答への依存も増える一方、出典や説明内の不整合がある場合には誤回答への依存が下がりうることを報告している[14]。この結果は、説明を付ければ十分という発想の弱さを示している。利用者を助けるのは、説明の量ではない。むしろ、利用者が立ち止まれるような手がかりである。出典が確認できる。説明の中に不確実性が示されている。前提と結論の対応が見える。矛盾があれば気づける。このような形でなければ、説明は検証ではなく説得として働きやすい。

説明の働き 有効に働く場合 危険に働く場合
根拠確認 出典、条件、前提が明示され、利用者が元資料や仕様と照合できる。 出典が曖昧なまま、もっともらしい理由だけが並び、根拠確認をしたように見える。
理解支援 判断に必要な論点が整理され、確認すべき点と未確認の点が見える。 論点整理そのものが AI の枠組みに固定され、別の問いや比較軸が見えにくくなる。
不確実性提示 分からない点、条件付きの点、追加確認が必要な点が明示される。 注意書きがあることで、全体として慎重な回答に見え、中心的な断定まで受け入れやすくなる。
反論提示 結論を弱める反例や代替解釈が示され、採用判断を留保できる。 弱い反論だけが置かれ、結論がかえって強く見える。
手順化 確認手順、検証方法、採用条件が分かり、利用者が次に何を確かめればよいかが見える。 手順らしいものがあることで、実際には確認していないのに、確認済みの判断に見える。

この表で見えるのは、説明が二つの方向に働くことである。説明は、利用者を止めることができる。出典を確認させる。前提を見直させる。反例を探させる。採用条件を限定させる。その場合、説明は検証の足場になる。反対に、説明は利用者を先へ進ませることもできる。理由が付いているから安心する。注意書きがあるから慎重だと感じる。反論があるから公平だと思う。手順があるから確認済みに見える。その場合、説明は検証の代替物になってしまう。

この違いは、AI 出力の採用過程にとって重要である。人間は、理由があると納得しやすい。理由が長く、自然で、専門的に見えるほど、その傾向は強まる。しかし、理由があることと、その理由が結論を正しく支えていることは別である。AI は、誤った結論に対しても、もっともらしい理由を後から並べることができる。したがって、説明を読むときには、「理由があるか」ではなく、「その理由は確認可能か」「前提と結論は対応しているか」「反例によって崩れないか」を見なければならない。

ここで、説明に求める役割を言い換える必要がある。説明は、利用者を納得させるためだけにあるのではない。むしろ、利用者が疑えるようにするためにある。よい説明とは、きれいに結論へ導く文章ではなく、どこを確認すべきか、どこに不確実性があるか、どの前提が崩れると結論が壊れるかを見せる説明である。説明がこの役割を果たすなら、AI 出力の採用過程は強くなる。説明が納得感だけを増やすなら、採用過程はむしろ弱くなる。

したがって、AI 出力に説明が付いているかどうかだけでは不十分である。問うべきなのは、その説明が検証可能な足場を提供しているか、それとも納得感を増幅しているだけかである。説明は、利用者を止める装置にも、先へ進ませる装置にもなる。AI 時代に必要なのは、説明を増やすことだけではない。説明を、採用を急がせる文章ではなく、採用を一度保留させる構造として設計することである。

9. 過信と不信は、どちらも判断を歪める

AI への依存を考えるとき、過信だけを問題にすると不十分である。確かに、AI が誤っているのに人間が従ってしまうことは大きな問題である。しかし、反対に、AI が有用な支援をしているのに、人間がそれを退けてしまう場合もある。つまり、問題は「AI を信じるか、信じないか」という二択ではない。重要なのは、AI が有効に働く場面では使い、誤っている場面では止めることである。過信も不信も、この切り分けを失わせる。

Goddard らは、automation bias を、医療などの領域において人間が自動化された支援に過度に従う問題として整理している[15]。ここで問題になるのは、自動化された出力が提示されることで、人間が自分の観察や判断を弱めてしまうことである。たとえば、支援システムが異常なしと示したために、本来なら気づけた異常を見落とす。あるいは、支援システムが誤った候補を示したために、別の可能性を十分に検討しなくなる。この場合、人間は判断者として残っているように見えても、実際には自動化された出力に強く引き寄せられている。

一方で、人間はアルゴリズムを常に信じすぎるわけでもない。Dietvorst らは、人間がアルゴリズムの誤りを一度見ると、たとえ全体としてアルゴリズムが人間より有効であっても、それを避ける傾向を algorithm aversion として示した[16]。一度でも誤った出力を見ると、「この仕組みは信用できない」と感じやすい。これは過信とは逆の問題である。AI やアルゴリズムが有用な場面でも、過去の誤りの印象によって支援を退けてしまう。

さらに、Logg らは、条件によっては人間が人間の判断よりアルゴリズムの判断を好む algorithm appreciation を報告している[17]。つまり、人間の反応は一方向ではない。ある場面では自動化された支援を過大評価し、別の場面では過小評価する。ここから分かるのは、人間が AI に対して安定した合理的態度を取るとは限らないということである。AI への依存は、信頼しすぎる場合にも、拒みすぎる場合にも、判断を歪める。

状態 起きること 問題点
過信 AI が誤っていても、その出力に従う。 誤った判断が、人間の判断として採用される。
不信 AI が有用な場合でも、その支援を退ける。 見落とし防止、視点補完、効率化の利益を失う。
揺れ 場面によって AI を過大評価したり、過小評価したりする。 出力の中身ではなく、印象、過去の経験、文脈によって判断が左右される。
適切な依存 AI の正しい支援を使い、誤った支援を止める。 この状態を作るには、出力の正誤を見分ける手続きが必要になる。

この表で重要なのは、望ましい状態が「信じる」でも「信じない」でもないことである。望ましいのは、適切な依存である。適切な依存とは、AI が役立つ場面では支援として使い、AI が誤る場面では退ける状態を指す。これは、単なる中立姿勢ではない。AI を半分だけ信じるという意味でもない。出力の種類、根拠、状況、リスク、確認可能性に応じて、利用と停止を切り替える能力である。

Schemmer らは、AI advice に対する適切な依存を概念化し、説明がその依存の仕方にどのように影響するかを検討している[18]。この論点は、本稿の前章とつながる。説明があれば、利用者は AI の出力をよりよく評価できるように見える。しかし、説明が誤った出力にも説得力を与えるなら、過信は強まる。反対に、説明が不確実性、前提、反例、出典を見せるなら、利用者は採用を保留しやすくなる。つまり、説明の役割は、信頼を一律に高めることではなく、使うべき場面と止めるべき場面を分けることにある。

ここで再び、個人の注意力だけに戻してはいけない。適切な依存は、気合いでは作れない。出典を確認できること、反例を探せること、検証手順があること、利用範囲が明示されていること、責任者が決まっていること、ログが残ること、レビュー時間が確保されていることが必要である。これらがなければ、利用者は AI を信じすぎるか、逆に避けすぎるかのどちらかに傾きやすい。

したがって、過信を防ぐには、認知の問題を手続きの問題へ移さなければならない。人間が AI に弱いというだけでは、対策にならない。どの出力を確認するのか。どの条件では使わないのか。どの判断には人間の独立確認を求めるのか。どの記録を残すのか。こうした手続きがあって初めて、AI は無条件に従う対象でも、全面的に拒む対象でもなくなる。AI は、判断を支える材料として使われる。その材料を採用するかどうかは、人間と制度の側で決めなければならない。

10. 「人間が最終判断する」という建前は、手続きがなければ空洞化する

多くの AI 利用方針は、「AI は補助であり、最終判断は人間が行う」と述べる。この文は、原則としては正しい。AI が出力したものを、誰が採用し、誰が説明し、誰が責任を負うのかを考えれば、最終的な判断主体を人間側に置く必要がある。しかし、この一文だけでは足りない。人間が本当に判断するには、判断できるだけの時間、材料、権限、責任分界が必要である。AI が作った資料を短時間で確認し、会議に出し、承認し、次の工程へ流すだけなら、形式上は人間が最終判断していても、実質的には AI 出力の追認に近づく。

ここで問題になるのは、「人間が関与しているか」ではなく、「人間が判断できる条件を持っているか」である。資料を開いた。文章を読んだ。承認ボタンを押した。これらは、人間が工程に参加したことを示す。しかし、それだけでは、人間が独立に判断したことにはならない。判断するには、AI が何をしたのか、どの部分が未確認なのか、どの根拠に基づくのか、どのリスクが残るのかを見られなければならない。人間が最終判断者であるという建前は、この条件がそろって初めて意味を持つ。

条件 判断を支える場合 空洞化する場合
時間 出力を読み、根拠を確認し、必要に応じて反例や代替案を検討できる。 締切や会議準備に追われ、読んだだけで確認済みとして扱われる。
材料 一次情報、仕様、実行結果、元データ、前提条件にアクセスできる。 AI の要約や比較表だけが手元にあり、元資料へ戻れない。
権限 人間が出力の不採用、保留、再確認、差し戻しを選べる。 AI 出力を使うことが前提になり、疑義があっても止めにくい。
責任分界 誰が確認し、誰が採用し、誰が説明するのかが分かれている。 AI が出した、担当者が見た、組織が承認したという形だけが残り、責任の所在が曖昧になる。
記録 AI に任せた範囲、確認した範囲、未確認の範囲が後から追える。 完成物だけが残り、どこで AI 出力が人間の判断へ変わったのかが分からない。

この表で分かるように、人間の最終判断は、単に人間が最後に触ったという事実では支えられない。時間がなければ確認できない。材料がなければ検証できない。権限がなければ止められない。責任分界がなければ説明できない。記録がなければ後から検証できない。これらが欠けた状態で「人間が最終判断した」と言っても、その判断は実質を失う。人間は判断者ではなく、AI 出力を業務手続きに通すための通過点になる。

Microsoft の Aether チームによる Overreliance on AI のレビューは、ユーザーが誤った AI 出力を受け入れ始めることを overreliance とし、その発生要因と緩和策を整理している[19]。過剰依存は、利用者の性格だけで決まるものではない。タスクの難しさ、AI の提示方法、説明の設計、利用者の専門性、確認に使える時間、組織上の圧力が影響する。つまり、過剰依存は、人間の内面だけでなく、利用環境によって作られる。ここでも問題は、個人の注意力ではなく、出力をどう受け取り、どの段階で止められるように設計するかである。

また、Amershi らの Human-AI Interaction ガイドラインは、AI システムが何をしているか、どれだけ確信しているか、利用者がどう制御できるかを設計上の要点として扱っている[20]。この観点は、AI 利用を単なるモデル性能の問題から、人間と AI の相互作用設計の問題へ移す。AI が高性能であっても、利用者が出力の限界を理解できず、制御もできず、誤りに気づけないなら、安全な利用にはならない。逆に、AI に限界があっても、利用者が確認し、修正し、止められる設計があれば、誤りは採用前に抑えられる。

組織では、この問題がさらに強くなる。AI 導入によって作業速度が上がると、その速度が標準になる。最初は補助として導入された AI が、次第に通常業務の前提になる。要約は AI で作る。比較表も AI で作る。レビュー観点も AI に出させる。議事録も AI で整える。すると、AI を使うこと自体は特別な操作ではなくなる。その一方で、確認の時間が同じだけ増えるとは限らない。むしろ、出力が速くなった分だけ、次の工程へ早く流す圧力が強まる。

このとき、AI が作った要約が会議資料になり、AI が作った比較表が判断の前提になり、AI が作ったレビューコメントが確認作業の代替になる。人間が最終判断者とされていても、人間が本当に判断できる条件がなければ、その制度は空洞化する。会議で資料を読んだ人間は、AI が要約した範囲の中で議論する。承認者は、AI が作った比較軸の中で判断する。レビュー担当者は、AI が指摘した観点を確認済みの範囲と誤認する。こうして、AI は制度上は補助でありながら、実務上は判断の前提を作る存在になる。

業務場面 補助として機能する場合 追認に近づく場合
会議資料 AI の要約を入口として使い、元資料と照合したうえで論点を確定する。 AI の要約だけを前提に会議が進み、元資料の条件や留保が確認されない。
比較検討 AI が出した比較軸を候補として扱い、人間が目的に合わせて追加、削除、修正する。 見やすい比較表が、そのまま判断枠として使われる。
コードレビュー AI の指摘を補助線として使い、仕様、テスト、既存設計との整合を人間が確認する。 AI が問題なしと述べたことで、レビューが完了したように扱われる。
稟議 AI が作った文章を草案として使い、根拠、リスク、代替案を人間が明示する。 AI が整えた文章の説得力によって、未確認の前提が通ってしまう。
教育評価 AI のコメントを参考情報として使い、評価基準と個別の成果物を人間が照合する。 AI の評価文が自然であるため、採点者の独立した確認が弱くなる。

このような場面では、「人間が最後に承認した」という事実だけでは不十分である。承認とは、ただ通すことではない。確認すべき範囲を確認し、未確認の範囲を未確認として残し、採用する理由を説明できる状態にすることである。AI が作った出力が制度内を流れる場合、必要なのは人間の署名や承認欄だけではない。必要なのは、どこまでが AI の生成で、どこからが人間の確認で、どの時点で採用判断が行われたのかを分けることである。

したがって、「人間が最終判断する」という建前を機能させるには、採用前の手続きが必要である。人間が確認したこと、確認していないこと、AI に任せたこと、任せなかったこと、判断の根拠、残る不確実性を分けて記録しなければならない。AI 利用における人間の責任とは、AI の出力を最後に承認することではない。出力を採用する前に、判断できる条件を整え、その条件を満たしているかを確認し、満たしていない場合には止めることである。

11. 採用前の摩擦を設計する

AI 利用への対策を「AI を使わない」に置くと、現実から離れる。多くの場面で AI は有用であり、利用を全面的に避けることは難しい。調査の入口を作る。論点を洗い出す。文章を整える。テスト観点を出す。反論候補を並べる。こうした用途では、AI は人間の作業を補助できる。反対に、「AI を使っても人間が気をつければよい」とするだけでも弱い。人間は、時間圧、疲労、組織内の期待、形式的完成度、過去の成功体験に影響される。注意せよと言われても、注意できる条件がなければ、注意は続かない。

したがって、必要なのは、AI 出力を採用する前に、判断を一度止める摩擦である。摩擦とは、作業を無意味に遅くする障害ではない。ここでいう摩擦は、出力をそのまま通さず、前提、根拠、反例、不確実性、責任を確認するための足場である。AI は速く出力する。人間の検証は遅い。この速度差を放置すると、速い出力が遅い検証を追い越す。摩擦は、その追い越しを防ぎ、生成されたものを採用する前に、いったん人間の判断へ戻すためにある。

NIST の AI Risk Management Framework は、AI リスクを組織が管理するための枠組みを示している[21]。また、生成 AI 向けの NIST AI RMF Generative AI Profile は、生成 AI の特性に即したリスクを整理している[22]。これらの文書が示す方向は、AI を単体の道具としてではなく、組織、利用者、運用、評価を含むシステムとして扱うことである。AI の出力だけを見ても、安全な利用は設計できない。誰が使うのか、何に使うのか、どの範囲で確認するのか、誤りがあったときにどこで止まるのかを含めて考える必要がある。

この観点から見ると、採用前の摩擦は、禁止規則ではなく運用設計である。AI を使う前に人間が目的を明示する。出力を受け取ったあとに、事実、推論、提案、未確認事項へ分解する。重要な主張について一次情報へ戻る。結論が崩れる条件を探す。採用理由を記録する。これらは、AI を遠ざけるための儀式ではない。AI の出力を、素材から判断へ変える前に、人間が引き受けられる形へ変換する工程である。

摩擦 確認すること 防ぐもの
初期仮説の明示 AI に聞く前に、人間が目的、前提、判断軸、優先順位を書く。 AI が最初の問題設定を作り、人間がその枠組みの中だけで考えてしまうことを防ぐ。
出力の分解 AI 出力を、事実、推論、提案、未確認事項に分ける。 推測、作文、一般論が、確認済み事実のように扱われることを防ぐ。
一次情報確認 重要な主張について、原典、仕様、データ、実行結果に戻る。 要約、説明、比較表を、根拠そのものと取り違えることを防ぐ。
反例確認 結論が崩れる条件、例外、反対の根拠、別の解釈を探す。 もっともらしい物語に閉じ込められ、結論を早く閉じてしまうことを防ぐ。
適用範囲の限定 その出力が使える条件、使えない条件、個別事例に当てはめる際の制約を確認する。 一般論を、状況の違いを無視して個別判断に持ち込むことを防ぐ。
採用理由の記録 なぜその出力を使ったのか、どこを確認したのか、何を未確認として残したのかを記録する。 後から責任と判断過程が追えなくなることを防ぐ。

この表で重要なのは、摩擦が単なるチェックリストではないことである。初期仮説の明示は、AI が判断の起点を奪うことを防ぐ。出力の分解は、事実と推論を混ぜないためにある。一次情報確認は、もっともらしい説明を根拠と取り違えないためにある。反例確認は、AI が作った物語から離れるためにある。適用範囲の限定は、一般論を個別事例へ乱暴に移さないためにある。採用理由の記録は、判断を後から説明可能にするためにある。これらはすべて、AI の出力を人間の判断へ変える前に必要な工程である。

とくに重要なのは、AI に聞く前の摩擦である。AI の出力を見たあとでは、その構造がすでに思考のアンカーになる。問いの分け方、比較軸、重要度、結論の方向が一度提示されると、人間はそこから完全に自由ではいられない。だからこそ、AI に聞く前に、人間の側で目的、前提、判断軸、優先順位を置く必要がある。これは、AI を使わないためではない。AI が作る構造を、最初の構造にしないためである。

採用前の摩擦は、個人の作業術にとどまらない。組織で AI を使う場合には、摩擦を制度として置く必要がある。たとえば、AI を使った資料には、AI が作成した範囲、人間が確認した範囲、未確認として残る範囲を分けて記す。重要な判断に使う場合には、一次情報確認を必須にする。高リスクな判断では、AI 出力を直接の根拠にしない。レビューでは、AI が問題なしとしたことを確認完了とみなさない。このような手続きがなければ、「人間が最終判断する」という建前は、実際には AI 出力の追認へ近づく。

運用設計 具体的な扱い 狙い
利用範囲の明示 AI を下書き、要約、観点抽出、表現整理のどれに使ったのかを記録する。 AI がどこで作業に関与したのかを後から追えるようにする。
確認範囲の明示 人間が確認した根拠、仕様、データ、実行結果を分けて残す。 読んだだけの箇所と、検証した箇所を混同しないようにする。
未確認事項の保持 分からない点、未調査の点、追加確認が必要な点を消さずに残す。 未確認のまま結論が閉じられることを防ぐ。
採用条件の設定 どの条件を満たせば採用し、どの条件では保留または不採用にするかを決める。 出力の流暢さや会議の流れだけで採用されることを防ぐ。
責任者の明示 最終的に誰が採用判断を行い、誰が説明責任を持つのかを明確にする。 AI、担当者、組織のあいだで責任が曖昧になることを防ぐ。

ここでいう制度設計は、大げさな規制だけを意味しない。個人の執筆でも、業務報告でも、コードレビューでも、小さな摩擦は作れる。AI に聞く前に自分の仮説を書く。出力を受け取ったら、事実と推論を分ける。重要な主張は一次情報に戻す。反例を一つ探す。採用しない選択肢を残す。これだけでも、AI 出力をそのまま判断に変える流れは弱まる。摩擦は、作業の敵ではなく、判断を守る構造である。

この摩擦は、AI を遠ざけるためではない。AI を使いながら、人間の判断起点を残すためにある。AI が速く、整った出力を出すほど、人間はその前に自分の足場を作っておく必要がある。出力が速いからこそ、採用は急がない。文章が整っているからこそ、根拠へ戻る。説明が自然だからこそ、反例を探す。AI 時代の実務で必要なのは、AI の利用を一律に抑えることではなく、出力が判断へ変わる直前に、人間が立ち止まれる構造を置くことである。

12. 制度設計では、利用可否より採用条件が重要になる

AI を制度の中で扱うとき、単に利用を許すか禁止するかだけでは足りない。重要なのは、どの用途で、どの出力を、どの条件で採用してよいかである。AI は同じ出力形式を持っていても、使われる場面によって意味が変わる。雑談の補助として使う場合と、医療、教育、採用、融資、行政、開発、研究、報道の判断材料として使う場合では、求められる確認の水準が違う。したがって、制度設計の中心は、「AI を使ったかどうか」ではなく、「AI 出力をどの判断に接続したか」でなければならない。

EU の AI Act は、リスクに応じて AI システムを扱う枠組みを示し、高リスク AI システムには人間による監督などの要件を置いている[23]。UNESCO の AI 倫理勧告も、人間の尊厳、透明性、説明責任、人間による監督を重視している[24]。これらの文書を、本稿の問題意識から読むと、重要なのは AI の存在そのものではない。AI が人間の権利、機会、健康、安全、自由、評価、説明責任に接続するとき、その出力をどのような条件で扱うかである。AI は出力を生成できる。しかし、その出力を制度上の判断根拠として扱ってよいかは、別に決めなければならない。

医療では、この論点がさらに明確である。WHO は、医療 AI について倫理とガバナンスを整理し、AI が医療に利益をもたらしうる一方で、安全性、説明責任、公平性、プライバシー、人間による監督が必要であると述べている[25]。さらに、AI for health に関する規制上の考慮事項では、開発者、規制当局、政策担当者、医療従事者など複数の関係者を前提に、AI システムをどのように管理するかを整理している[26]。医療では、AI が候補を示すことと、その候補を診断、治療、説明、同意、記録に使うことは同じではない。出力が患者の身体、生命、選択に接続する以上、採用条件を明確にしなければならない。

制度上の観点 利用可否だけを見る場合 採用条件を見る場合
用途 AI を使ってよいか、使ってはいけないかを一律に決める。 下書き、要約、助言、評価、判断根拠のどこまで許すかを分ける。
リスク AI 利用そのものを危険または安全として扱う。 出力が健康、権利、財産、評価、安全に接続する程度に応じて確認水準を変える。
監督 人間が最終確認するという形式を置く。 人間が何を確認し、何を保留し、どの条件で止められるかを定める。
説明責任 AI の説明があることをもって透明性があるとみなす。 説明が根拠、前提、限界、採用理由を追跡できる形になっているかを見る。
記録 AI を使ったかどうかだけを残す。 AI が生成した範囲、人間が確認した範囲、採用した理由、未確認事項を残す。

この表で分かるように、利用可否だけを決める制度は粗い。AI を使ってよいと決めても、それだけでは、出力をどこまで信じてよいのか、何を確認すべきなのか、どの判断に使ってよいのかは分からない。反対に、AI を使ってはいけないと決めても、現場では別の形で AI 的な要約、検索、補助、翻訳、文案作成が入り込む可能性がある。制度が見るべきなのは、道具の有無だけではない。出力が判断に接続する経路である。

ここで、本稿の中心命題に戻る。AI 出力は、生成された時点ではまだ素材である。制度上の問題になるのは、それが採用されたときである。AI が候補を出す。人間がそれを読む。組織が資料に入れる。会議がその資料を前提に進む。上長が承認する。利用者や患者や市民に説明される。この流れのどこかで、出力は単なる候補から、制度上の判断へ変わる。制度設計は、その変換点を見えるようにしなければならない。

そのためには、採用条件を明示する必要がある。たとえば、AI の要約は一次情報確認なしに外部説明へ使ってはならない。AI の比較表は、人間が比較軸を確認し、必要な観点を追加するまでは意思決定の根拠にしてはならない。AI の医療助言は、個別診断や治療方針として直接扱ってはならない。AI のコード案は、仕様確認、テスト、既存設計との整合確認なしに反映してはならない。このように、制度は「出力できること」と「採用できること」を分ける必要がある。

AI 出力 採用前に必要な条件 条件なしに採用した場合の問題
要約 元資料に戻り、条件、留保、反対材料、文脈が落ちていないかを確認する。 都合のよい圧縮が、資料全体の意味として扱われる。
比較表 比較軸の妥当性、抜けている観点、項目間の粒度の揃い方を確認する。 見やすい整理が、公平で網羅的な比較として扱われる。
助言 個別状況への適用可能性、専門家確認の必要性、リスクの大きさを確認する。 一般論が個別判断へそのまま持ち込まれる。
評価 評価基準、根拠資料、人間による独立確認、異議申し立ての経路を確認する。 AI の評価文が自然であることによって、評価の妥当性があるように見える。
コード 仕様、境界条件、テスト結果、セキュリティ、既存設計との整合を確認する。 動きそうに見えるコードが、運用上の欠陥や保守負債として取り込まれる。

制度文書が人間による監督や説明責任を重視するのは、このためである。ただし、人間による監督は、単に人間が最後に承認することではない。人間が監督するためには、AI が何を出したのか、その出力は何に基づいているのか、どの部分が確認済みなのか、どの部分が未確認なのか、どの範囲で採用するのかを見られなければならない。監督とは、出力を眺めることではなく、採用条件を満たしているかを判断することである。

この点で、制度設計は本稿の認知論とつながる。人間は、流暢な文章、自然な説明、整った表に反応しやすい。組織は、速い出力と整った資料を歓迎しやすい。だからこそ、制度は、人間の弱さを前提に作られなければならない。人間が常に十分に疑うという前提ではなく、人間は時間圧や形式的完成度に引き寄せられるという前提に立つ。そのうえで、確認すべき点、止める条件、採用できる範囲、責任の所在をあらかじめ決める必要がある。

本稿の語彙で言えば、制度は生成ではなく採用を管理しなければならない。AI が出力できることと、その出力を根拠にしてよいことは別である。AI が説明できることと、その説明を責任ある説明として扱えることも別である。AI が候補を出せることと、その候補を人間や組織が採用してよいことは別である。制度設計の要点は、AI の能力を抽象的に評価することではなく、その能力が人間の判断、他者の権利、組織の責任へ接続する条件を定めることである。

13. 既稿との接続――境界管理、速度差、責任配置の内側へ

本稿の議論は、独立した AI 論ではない。既稿で扱ってきた境界管理、制度と技術の速度差、責任配置、自由の圧縮という問題を、人間の判断過程の内側へ移したものである。これまで見てきたように、AI 出力は、生成された時点ではまだ素材であり、候補であり、仮説である。しかし、人間がそれを文書、コード、会議資料、報告書、説明、意思決定に採用した瞬間、その出力は社会的な力を持つ。したがって、本稿の問いは「AI が何を出せるか」ではなく、「AI が出したものは、どこで人間と制度の判断になるのか」である。

まず、既稿では、危険な能力そのものを全面的に禁止するのではなく、その能力が現実へ作用する境界をどこで確認し、記録し、必要に応じて止めるかが重要だと整理した[27]。そこでは、AI と生命科学が結びつく場面で、危険な知識や能力が DNA 合成、注文、公開、利用手続きへ接続する地点が問題になった。能力が存在することと、その能力が現実の操作へ接続することは同じではない。だからこそ、どこで審査し、どこで記録し、どこで止めるかという境界管理が必要になる。

本稿で扱う境界も、基本構造は同じである。ただし、境界の位置が違う。既稿で扱った境界は、危険な知識や能力が外部社会へ出ていく地点であった。本稿で扱う境界は、AI 出力が人間の判断へ入ってくる地点である。AI の文章、要約、比較表、コード案、説明は、それ自体ではまだ外部世界を直接変えない。しかし、それが人間の判断として採用されると、報告書が変わり、会議の前提が変わり、コードが変わり、意思決定が変わる。したがって、AI 出力が人間の判断に変わる地点も、危険な能力が社会に接続する地点と同じように管理しなければならない。

既稿の論点 既稿で見た境界 本稿で見直す境界
危険な能力 知識や能力が、合成、公開、注文、利用手続きへ接続する地点である。 AI 出力が、人間の判断、文書、コード、意思決定へ接続する地点である。
医療 AI AI の候補や説明が、患者、医師、診療方針、説明責任へ接続する地点である。 AI の助言が、一般的な補助から、個別判断や行動へ変わる地点である。
政策と科学 科学的知見が、報告書、引用経路、専門家集団を通じて政策文書へ入る地点である。 AI の要約や文章が、会議資料、報告書、レビュー、判断文書へ入る地点である。
身体の市場化 自由な選択が、市場、制度、生活圧力によって実質的な強制へ近づく地点である。 任意の AI 利用が、組織標準となり、人間の熟考時間を削る地点である。

また、既稿では、医療 AI が単なる便利な道具ではなく、患者の受診判断、医師の診療方針、説明責任に接続するシステムであることを整理した[28]。この構造は、本稿の主題と強く重なる。医療 AI の出力は、候補や説明として現れる。しかし、それを患者が受診判断に使い、医師が診療方針の補助に使い、医療機関が説明や記録に使うと、その出力は人間の行動と制度の責任に結びつく。AI が候補を出すことと、その候補を診断、治療、説明、同意、記録に接続することは別である。

この医療 AI の構造を一般化すると、本稿の議論になる。AI が出した候補や説明は、その場に留まらない。人間の注意を向け、比較軸を作り、判断の優先順位を変え、行動を促す。調査であれば、どの資料を見るかを変える。執筆であれば、どの問いを中心に置くかを変える。開発であれば、どの実装を候補と見るかを変える。組織判断であれば、どのリスクを重く見るかを変える。したがって、AI の性能だけでなく、誰が確認し、どこで採用し、誤りをどう止めるかが問題になる。

さらに、既稿では、科学に基づく政策を、科学的事実が自動的に政策へ流れ込むものではなく、専門家、国際機関、報告書、引用経路を通じて選ばれ、整理され、制度へ取り込まれる過程として扱った[29]。この視点も、本稿と接続する。科学論文は、存在するだけでは政策にならない。引用され、要約され、報告書に入り、政策文書の文脈で位置づけられることで、制度上の意味を持つ。つまり、知識は生成された時点ではなく、採用された時点で制度的な力を持つ。

本稿では、その構造を AI 出力に適用している。AI が生成した文章や要約も、採用されるまでは単なる出力である。しかし、報告書、会議資料、コードレビュー、判断文書に入った瞬間、それは制度の中で力を持つ。誰かがその資料を読み、判断し、承認し、次の工程へ流す。すると、AI の出力は、単なる回答ではなく、組織内の前提になる。ここで問題になるのは、AI が文章を生成したことだけではない。その文章を、誰が、どの根拠で、どの範囲まで確認し、どの責任で採用したのかである。

また、身体の市場化を扱った既稿では、自由な選択が制度や市場の圧力によって歪められる構造を整理した[30]。この議論は、一見すると AI 利用とは離れているように見える。しかし、背後にある構造は近い。最初は任意の選択であっても、それが市場や制度の標準になると、選ばない自由は弱くなる。卵子提供、代理出産、臓器売買のような場面では、形式上の同意があっても、経済的圧力や社会的期待によって選択が歪む可能性がある。自由は、制度環境から切り離して考えられない。

AI 利用にも似た問題がある。最初は任意の補助であっても、組織の標準になると、AI を使わない自由や、AI 出力に抗う時間は弱くなる。AI で要約することが標準になれば、元資料を読む時間は削られやすい。AI で比較表を作ることが標準になれば、比較軸を自分で設計する時間は減りやすい。AI でレビューすることが標準になれば、人間の独立した確認は省略されやすい。便利な選択肢は、標準化された瞬間に、人間の熟考時間を削る圧力になりうる。

さらに、既稿では、生成 AI の企業利用では、モデル性能そのものだけでなく、モデルを社内データ、権限、監査、既存システム、現場のワークフローへ接続する業務実装レイヤーの重要性を整理した[31]。この論点は、本稿の採用過程論と接続する。AI 出力は、個人の画面上で読まれるだけでなく、会議資料、承認フロー、コードレビュー、業務判断へ組み込まれることで組織の前提になる。したがって、企業導入で問われるのはモデル性能だけではなく、AI 出力をどの条件で採用し、誰が確認し、どの記録を残すかである。

ここまでを踏まえると、本稿の位置づけは明確である。既稿では、危険な能力が社会へ接続する境界、医療 AI が責任へ接続する境界、科学的知識が政策へ取り込まれる境界、自由な選択が制度圧力によって変質する境界を扱ってきた。本稿では、それらのさらに内側にある境界を扱っている。すなわち、AI 出力が人間の判断へ変わる境界である。

この境界は見えにくい。なぜなら、そこでは明示的な制度変更や大きな事件が起きるとは限らないからである。人間が AI の出力を読み、納得し、少し修正し、文書に入れる。会議で使う。コードに反映する。報告書に載せる。こうした小さな採用の積み重ねによって、AI の出力は人間の判断へ変わる。だからこそ、境界を意識的に見えるようにしなければならない。どこまでが生成で、どこからが採用か。どこまでが外部化で、どこからが明け渡しか。どこまでが補助で、どこからが制度上の判断か。この区別を失うと、AI は補助の顔をしたまま、判断の前提を作る。

したがって、本稿は、既稿で扱ってきた境界管理、制度速度差、責任配置、自由の圧縮という問題を、人間の判断過程の内側へ移したものである。知識は、生成された時点ではまだ社会的な力を持たない。人間と制度に採用されることで、初めて判断として働く。AI 時代に問うべきなのは、AI がどれほど高度な出力を作れるかだけではない。その出力を、誰が、どこで、どの条件で、自分たちの判断として採用するのかである。

14. 結論――AI の誤りは、採用されたときに人間と制度の責任になる

AI は誤る。これは重要である。しかし、本稿で見てきたように、より深い問題は、AI が誤ることだけではない。誤った出力が、人間の認知特性と組織手続きの隙間を通って、人間の判断として採用されることが問題である。AI の出力は、流暢で、整っていて、説明を伴い、専門的に見えることがある。その形式が、検証前の納得感を生む。さらに、AI は結論だけでなく、問いの分け方、比較軸、反論、注意点、結論の強さまで提示する。すると人間は、自分で判断したつもりのまま、AI が作った構造を追認してしまうことがある。

この問題を、個人の怠慢だけに戻すべきではない。人間は、すべての情報を自分で確認しているわけではない。メモを使い、計算機を使い、検索し、他者の知識に頼り、道具によって認知負荷を下げながら判断している。外部化そのものは、人間の知的活動を支える。しかし、外部化した結果を評価せず、そのまま自分の判断として採用すると、外部化は明け渡しに変わる。AI は、検索、要約、推論、説明、文章化を一つの出力にまとめるため、この境界をとくに曖昧にする。

また、説明が付いていれば安全になるわけでもない。説明は、根拠を確認する足場になりうる。しかし同時に、誤った結論をもっともらしく見せる物語にもなりうる。理由があることと、その理由が結論を正しく支えていることは別である。注意書きがあることと、主張の強さが適切に制限されていることも別である。したがって、AI 出力を読むときに問うべきなのは、説明があるかどうかではない。その説明が、出典、前提、反例、不確実性、適用範囲を確認できる形になっているかである。

過信だけを避ければよいわけでもない。AI が誤っていても従うなら、誤った判断が人間の判断として採用される。反対に、AI が有用な支援をしているのに退ければ、見落とし防止、視点補完、効率化の利益を失う。必要なのは、信じることでも、信じないことでもない。AI が有効に働く場面では使い、誤っている場面では止めることである。そのためには、出力の正誤を見分ける手続きが必要になる。

だから、AI 利用の対策は「AI を信じるな」だけでは足りない。人間はすべてを疑い続けることはできない。必要なのは、疑うべき地点を制度化することである。AI に聞く前に目的と判断軸を置く。出力を事実、推論、提案、未確認事項に分ける。重要な主張は一次情報に戻る。反例を探す。適用範囲を限定する。採用理由を記録する。高リスク用途では、AI 出力を直接の根拠にしない。こうした摩擦が、人間の判断を守る。

この摩擦は、AI を遠ざけるためではない。AI を使いながら、判断の起点を人間側に残すためにある。AI が速く出力するほど、人間はその前に自分の問いを置く必要がある。AI の文章が整っているほど、根拠へ戻る必要がある。AI の説明が自然であるほど、反例を探す必要がある。AI の比較表が見やすいほど、比較軸を確認する必要がある。出力の完成度が高いからこそ、採用を急いではならない。

組織や制度においても、見るべき点は同じである。AI を使ってよいか、使ってはいけないかという二択だけでは不十分である。重要なのは、どの用途で、どの出力を、どの条件で採用してよいかである。人間が最終判断するという建前は、時間、材料、権限、責任分界、記録がなければ空洞化する。人間が最後に承認したというだけでは、判断したことにはならない。人間が何を確認し、何を未確認として残し、どの理由で採用したのかが残って初めて、判断は説明可能になる。

AI を使うことは、判断を手放すことではない。むしろ、AI が速く整った出力を作る時代だからこそ、人間は採用の前に立ち止まらなければならない。何が確認済みで、何が推論で、どの前提に依存し、どの範囲で使えるのか。その問いを残せる限り、AI は補助である。その問いが消えたとき、AI の出力は人間の判断に化ける。

本稿の結論は、単純である。AI 時代の責任は、AI が何を出力したかだけでは決まらない。人間と制度が、それをどのように読み、どのように確認し、どの条件で採用したかによって決まる。誤りは、出力された瞬間に社会を動かすのではない。採用された瞬間に、人間と制度の責任になる。だからこそ、AI 時代に必要なのは、AI を恐れて遠ざけることではなく、AI 出力が人間の判断へ変わる境界を見えるようにし、その境界で立ち止まれる手続きを持つことである。

参考文献

  1. id774, AI に任せる前に、人間が残すべき判断（2026-06-21）. https://blog.id774.net/entry/2026/06/21/4912/
  2. Steven D. Shaw and Gideon Nave, Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender（2026）. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6097646
  3. Shane Frederick, Cognitive Reflection and Decision Making（2005）. https://www.aeaweb.org/articles?id=10.1257/089533005775196732
  4. Amos Tversky and Daniel Kahneman, Judgment under Uncertainty: Heuristics and Biases（1974）. https://www.science.org/doi/10.1126/science.185.4157.1124
  5. Daniel Kahneman, Thinking, Fast and Slow（2011）. https://books.google.com/books/about/Thinking_Fast_and_Slow.html?id=ZuKTvERuPG8C
  6. id774, AI は思考設計格差を拡大する（2026-02-19）. https://blog.id774.net/entry/2026/02/19/3698/
  7. id774, 人間の注意と認知はどのように消費され始めたか（2026-05-18）. https://blog.id774.net/entry/2026/05/18/4783/
  8. id774, 認知バイアスを深堀りする（2026-01-05）. https://blog.id774.net/entry/2026/01/05/3219/
  9. Evan F. Risko and Sam J. Gilbert, Cognitive Offloading（2016）. https://www.cell.com/trends/cognitive-sciences/fulltext/S1364-6613(16)30098-5
  10. Emily M. Bender, Timnit Gebru, Angelina McMillan-Major and Shmargaret Shmitchell, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?（2021）. https://dl.acm.org/doi/10.1145/3442188.3445922
  11. Lei Huang, Weijiang Yu, Weitao Ma, Weihong Zhong, Zhangyin Feng, Haotian Wang, Qianglong Chen, Weihua Peng, Xiaocheng Feng, Bing Qin and Ting Liu, A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions（2023）. https://arxiv.org/abs/2311.05232
  12. Sebastian Farquhar et al., Detecting hallucinations in large language models using semantic entropy（2024）. https://www.nature.com/articles/s41586-024-07421-0
  13. Gagan Bansal, Tongshuang Wu, Joyce Zhou, Raymond Fok, Besmira Nushi, Ece Kamar, Marco Tulio Ribeiro and Daniel S. Weld, Does the Whole Exceed its Parts? The Effect of AI Explanations on Complementary Team Performance（2020）. https://arxiv.org/abs/2006.14779
  14. Sunnie S. Y. Kim, Jennifer Wortman Vaughan, Q. Vera Liao, Tania Lombrozo and Olga Russakovsky, Fostering Appropriate Reliance on Large Language Models: The Role of Explanations, Sources, and Inconsistencies（2025）. https://dl.acm.org/doi/10.1145/3706598.3714020
  15. Katharine Goddard, Abdul Roudsari and Jeremy C. Wyatt, Automation bias: a systematic review of frequency, effect mediators, and mitigators（2012）. https://pmc.ncbi.nlm.nih.gov/articles/PMC3240751/
  16. Berkeley J. Dietvorst, Joseph P. Simmons and Cade Massey, Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err（2015）. https://pubmed.ncbi.nlm.nih.gov/25401381/
  17. Jennifer M. Logg, Julia A. Minson and Don A. Moore, Algorithm Appreciation: People Prefer Algorithmic to Human Judgment（2019）. https://ideas.repec.org/a/eee/jobhdp/v151y2019icp90-103.html
  18. Max Schemmer, Niklas Kühl, Carina Benz, Andrea Bartos and Gerhard Satzger, Appropriate Reliance on AI Advice: Conceptualization and the Effect of Explanations（2023）. https://arxiv.org/abs/2302.02187
  19. Sanjay Passi et al., Overreliance on AI: Literature Review（2022）. https://www.microsoft.com/en-us/research/wp-content/uploads/2022/06/Aether-Overreliance-on-AI-Review-Final-6.21.22.pdf
  20. Saleema Amershi et al., Guidelines for Human-AI Interaction（2019）. https://www.microsoft.com/en-us/research/project/guidelines-for-human-ai-interaction/
  21. National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0)（2023）. https://www.nist.gov/itl/ai-risk-management-framework
  22. National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile（2024）. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence
  23. European Union, Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence（2024）. https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
  24. UNESCO, Recommendation on the Ethics of Artificial Intelligence（2021）. https://unesdoc.unesco.org/ark:/48223/pf0000380455
  25. World Health Organization, Ethics and governance of artificial intelligence for health（2021）. https://www.who.int/publications/i/item/9789240029200
  26. World Health Organization, Regulatory considerations on artificial intelligence for health（2023）. https://www.who.int/publications/i/item/9789240078871
  27. id774, AI 時代の危険な能力は、どこで止めるべきか（2026-06-16）. https://blog.id774.net/entry/2026/06/16/4892/
  28. id774, 医療 AI と人間の判断（2026-05-28）. https://blog.id774.net/entry/2026/05/28/4814/
  29. id774, 政策を動かす科学は、どう選ばれているのか（2026-06-18）. https://blog.id774.net/entry/2026/06/18/4900/
  30. id774, 身体はどこまで売買してよいのか（2026-06-17）. https://blog.id774.net/entry/2026/06/17/4898/
  31. id774, 生成 AI の競争軸は、モデルから業務実装へ移る（2026-06-25）. https://blog.id774.net/entry/2026/06/25/4922/