現代人が一日に触れる情報量は平安時代の人の一生分を超えるとも言われる。筆者はカラーテレビの時代に、テレビを見過ぎると馬鹿になると言われて育った。情報過多で偽物が多く、嘘偽りを鵜呑みにして育つことへの警告だったのだろう。しかし現在、スマートフォンの通知、SNS のタイムライン、レコメンドされる短尺のネット動画──膨大な断片が絶え間なく流れ込む。この環境では「即座に判断する力」こそが情報社会を生き抜くための競争力となるわけだが、同時に認知バイアスという見えない歪みが意思決定に忍び込む。

こうした状況下で、生成AIは人とAIの対話を高速化しており、そこにSNSが絡むことで、誤った判断が拡散・強化されるリスクは爆発的になる。コンサルタントやリサーチャーのみならず、一般のビジネスパーソンでさえ「バイアスを意識的に管理する技術」を身につけなければ、意思決定の質は劇的に低下することが懸念される。本稿では生成AI時代において増大する認知バイアスの危険性とその対処法について論じたい。

認知バイアスとは何か

認知バイアスとは、人間の思考や判断、意思決定において生じる系統的な偏りや歪みを指す。これらは脳が情報処理を効率化するために発達した心理的なショートカット（ヒューリスティック：思考の近道）と、常に合理的な判断を下すのに限界がある人間の認知システムの特性から生じる。認知バイアスは必ずしも悪いものではなく、日常生活において迅速な判断を可能にする役割もある。しかし、重要な意思決定においては誤った結論に導く原因となりうる。

以下では、代表的な認知バイアスを4つのカテゴリに整理する。読者諸氏には、それぞれ心当たりがあり、耳が痛いのではないだろうか（表1）。

【表1】認知バイアスの例と分類
（出典：筆者作成）

判断系

判断系バイアスは、私たちの意思決定の基準となる情報の認識や処理に影響する。アンカリングでは、最初に得た情報が強力な基準点（アンカー）となり、その後の判断を大きく左右する。例えば、商品の元値が表示されると、実際の価値とは関係なく、その価格を基準に割引後の価格を評価してしまう。

利用可能性ヒューリスティックでは、思い出しやすい鮮明な事例や最近の出来事に基づいて、その頻度や確率を過大評価する傾向がある。例えば、航空機事故のニュースを見た直後は、飛行機での事故の確率を実際より高く見積もりがちである。

また、フレーミング効果では、同じ情報でも提示される方法によって受け取る印象や判断が大きく変わる。「成功率95%」と「失敗率5%」では、全く同じ確率なのに、前者の方がポジティブに評価されやすい。

確証バイアスも強力な判断系バイアスの一つで、自分の既存の信念や仮説を支持する情報を優先的に集め、矛盾する情報を無視したり軽視したりする。

社会系

社会系バイアスは、集団の中での人間関係や同調圧力から生じる。グループシンク（集団浅慮）では、集団の和を重視するあまり批判的思考が抑制され、多様な視点が失われる。その結果、非合理的な決定が下されることがある。

内集団バイアスでは、自分が所属するグループ（内集団）を過大評価し、外部のグループ（外集団）に対して否定的な見方をする。このバイアスは偏見や差別の心理的基盤となることもある。

同調バイアスもこの分野に含まれ、周囲の多数派の意見や行動に合わせようとする傾向により、個人の独立した判断が抑制される。

ハロー効果では、人の一つの良い特性（例えば外見の魅力）から、その人の他の特性（能力や性格など）まで好意的に評価してしまう。容姿が整っている人を「仕事もできそう」と無意識に判断してしまうのがこれだ。

自己評価系

自己評価系バイアスは、自分自身についての認識に関わる。過剰自信バイアスにより、多くの人は自分の知識や能力を実際より高く評価する傾向がある。例えば、勉強時間が不十分でも試験で良い成績を取れると過信してしまう。

自己奉仕バイアスでは、成功は自分の能力や努力のおかげと考え、失敗は運や外部環境のせいにする。就職面接に成功すれば「自分の実力」、失敗すれば「運が悪かった」と解釈するのが典型例である。

ダニング・クルーガー効果はこれに関連し、能力が低い人ほど自己評価が高く、逆に能力の高い人は自分を過小評価しがちであることを示している。後知恵バイアスも自己認識に影響し、結果を知った後に「最初からそうなることがわかっていた」と錯覚する。

感情・リスク系

感情・リスク系バイアスは、感情や確率判断の偏りが意思決定に影響する。損失回避バイアスでは、人は同じ価値のものに対して、獲得よりも損失を心理的に強く感じる。そのため「今だけ限定」「在庫残りわずか」という宣伝文句に反応して、本来必要のない買い物をしてしまうことがある。

楽観バイアスでは、自分にはネガティブな出来事が起こりにくいと考える傾向がある。例えば、「自分は平均より健康だから」と健康診断を受けない、あるいは「自分は平均より安全運転をしている」と過信して注意力が低下するなどの行動につながる。

テレスコーピング効果のような記憶バイアスも、リスク評価に影響し、過去の出来事の時期を実際よりも最近に記憶することで、その頻度や重要性を誤って判断することがある。

選択的記憶バイアスでは、人は自分の既存の考えや感情に合致する情報を優先的に記憶し、それに反する情報は忘れやすい傾向がある。

上記は認知バイアスの一例であるが、これらを理解することで、より意識的で合理的な思考が可能になる。しかし、完全にバイアスを排除することは難しい。むしろ、その存在を認識した上で、重要な決断においては多角的な視点を意識的に取り入れることが重要だといえよう。

生成AI時代にバイアスが増幅するメカニズム

ここまで示してきた多様な認知バイアスは、生成AIの登場により連鎖的に増幅される可能性があると筆者は考えている。ハルシネーション（幻覚）という用語は今や市民権を得たが、このAIによる事実に基づかない出力に対し、利用者が真実と受け取ってしまうのは、過剰な自信バイアスが働いているためである。

以下では、生成AIの利用フローの各段階で発生する様々な認知バイアスについて、ケースごとに評価をしていきたい。なお、筆者の主観も多分に含まれており、読者による異なる視点からの批判や見解があれば歓迎したい。

プロンプト段階では、ユーザーが質問や指示を構築する際に認知バイアスが影響する。アンカリングにより、ユーザーは最初に得た情報や先入観に強く影響され、プロンプト自体が偏った問いかけになる傾向がある。例えば、特定の仮説を前提に「～ですよね？」と尋ねると、そのアンカーがAIの回答を方向付けてしまう。利用可能性ヒューリスティックの影響で、人は思いつきやすい情報に頼る傾向があり、プロンプトも直近の話題や一般に知られた事例に偏りがちである。よってAIも学習データ内で頻出する事例や典型的なパターンを優先して返答するため、新規性の低い凡庸な回答になりやすいのではないか。つまり、このようにプロンプトの言い回し自体が回答の方向性に影響を持ち、ユーザーの視点を限定してしまう可能性がある。

生成段階では、AIモデル自体の特性とユーザーの受け取り方の相互作用に関連するバイアスが発生しているだろう。大規模言語モデル（LLM：Large Language Models）はユーザーの期待に沿うよう調整されるため、問いに埋め込まれた前提を疑わず回答する。その結果、ユーザーは自分の仮説が裏付けられたと感じ、偏った判断に一層自信を深める。AIの出力は学習データに依存するため、偏ったデータから学習したモデルは偏見を含む回答を示すことがある（情報のサンプリングバイアス）。AIが誤った情報でも断定的に述べるハルシネーションは、生成段階で最も注意が必要なバイアス要因だ。実際に、米国では生成AIが捏造した判例を弁護士が誤って提出し制裁を受けた例もある[1]。特に高度な専門知識が要求される内容では、「AIが言うのだから間違いない」という思い込みが働きやすく、ユーザーの判断力を低下させる。

※この記事は会員サービス「InfoCom T&S」より一部抜粋して公開しているものです。