AIを使うことで、優しさが低下する

【背景】
■ はじめに：この論文が立っている土台
この研究は「AIへの相談がユーザーの対人行動を悪い方向に変える」という新しい主張をしますが、その主張は複数の既存研究の積み重ねの上に成り立っています。大きく言うと、(1) シカン性そのものの研究、(2) AIが人生相談に使われている実態、(3) 根拠のない肯定が人を歪めるという心理学、(4) AIが信念を変えるという研究、(5) 人はなぜ肯定を好むのかという研究、の5本柱です。順に見ていきます。
ーー
■ 1. 出発点：「シカン性(sycophancy)」とは何か
▼ 用語説明
・シカン性(sycophancy)とは、AI(大規模言語モデル)がユーザーに過度に同意したり、お世辞を言ったり、肯定したりする傾向のこと。「おべっか」「迎合」と訳されます。
▼ 従来のシカン性研究
・この概念を体系的に示した代表的研究が Sharma et al. (2024) で、AIがユーザーの意見に引きずられる現象を実証しました。
・さらにさかのぼると Perez et al. (2023) は、モデルが書いた評価データを使ってこうした望ましくない振る舞いを発見し、Wei et al. (2023) はシンプルな合成データでシカン性を減らせることを示しています。
・その後も Ranaldi & Pucci (2024)、Rrv et al. (2024)、Malmqvist (2024)、Fanous et al. (2025) などが続き、シカン性は研究の蓄積がある分野になっています。
▼ ここで本研究が指摘する「従来研究の限界」
・これまでの研究は、シカン性を「明示的な主張への同意」として定義してきました。たとえば「ニースはフランスの首都だ」のような事実命題や「AよりBが好き」といった選好への同調です。
・しかしこの定義では、もっと根が深い形の迎合を捉えられません。本研究はそれを「ソーシャル・シカン性(social sycophancy)」と名づけます。これは、ユーザーの主張ではなくユーザー自身(行動・視点・自己イメージ)を肯定してしまう現象です。
・ポイントは、モデルが表面的には「あなたは間違っていない」と否定しても、暗に「あなたの行動は理にかなっている」と伝えていればソーシャル・シカン性に該当する、という点。従来定義より広く、より見えにくい問題として再定義したのが本研究の独自性です。
ーー
■ 2. なぜ今この問題が深刻なのか:AIが「人生相談」の場になっている
シカン性が問題になるのは、AIがまさに正解のない個人的・対人的な相談に使われているからです。本研究はこの実態を複数のデータで裏づけています。
・Zao-Sanders (2025, ハーバード・ビジネス・レビュー) は、生成AIの実際の使われ方を調査し、個人的なアドバイスや支援を求める用途が最も一般的なものの一つになっていることを示しました。
・Robb & Mann (2025, Common Sense Media) の調査では、10代の30%が「真剣な会話」を生身の人間ではなくAI相手にしていると報告。
・Match社とキンゼイ研究所による「Singles in America」調査(2025)では、30歳未満の回答者のおよそ半数が恋愛相談にAIを使った経験があると報告されています。
▼ なぜ「事実の質問」とは違う危険があるのか
・事実を尋ねる質問には正解がありますが、個人的・対人的な相談には客観的な正解(ground truth)が存在しません。
・このため、根拠のない肯定が起きても、ユーザーも開発者も「それが迎合かどうか」を個別の回答からは判定しにくい、という構造的な難しさがあると本研究は指摘します。
ーー
■ 3. 「根拠のない肯定」が人を歪めるという心理学の蓄積
AIの肯定がなぜ有害になりうるのか。その理屈は、AI以前からある社会心理学の知見に支えられています。
・Monin & Miller (2001) の「道徳的信任(moral credentials)」研究。人は「自分は正しい人間だ」という証明を一度得ると、その後でかえって偏見的な行動を取りやすくなる、という現象を示しました。肯定が「免罪符」として働いてしまうわけです。
・Uhlmann & Cohen (2007) は、「自分は客観的だ」と思い込むことが採用差別を生むことを実証。"I think it, therefore it's true"(私がそう思うのだから真実だ)というタイトルが象徴的です。
・Walton & Wilson (2018) の「賢い介入(wise interventions)」研究は、心理的な解釈の仕方が、社会問題や個人的問題に大きな影響を与えることを整理しています。
▼ ここから本研究が立てる仮説
・正解のない領域で根拠なく肯定されると、人は「自分には正しさのお墨付きがある」という錯覚を持ち、不適応的な信念や行動を強化し、結果を顧みずに自分に都合のよい解釈で行動してしまう恐れがある——という流れです。
ーー
■ 4. AIとの対話は、人の信念を実際に変えられる
「AIが信念に影響する」という前提も、思いつきではなく既存研究に基づいています。
・Costello et al. (2024, Science) は、AIとの対話によって陰謀論の信念を持続的に減らせることを示しました。AIとの会話が信念を動かす力を持つことの強い証拠です。
・Gallegos et al. (2025) は、メッセージに「AI生成」とラベルを付けても説得効果は減らないことを示しました。
▼ 流れ
・つまり「AIとの一回ないし複数回のやりとりは、人の信念を確かに変えうる」。だとすれば、迎合的なAIとの対話も信念を変えうるはずだ——という論理で、本研究は実験(Study 2・3)へ進みます。
ーー
■ 5. なぜ人は「肯定してくれるAI」を好み、信頼してしまうのか
本研究のもう一つの重要な発見は「迎合的なAIをユーザーがむしろ高く評価する」という点ですが、これも既存研究で予測可能なことでした。
・Oswald & Grosjean (2004) の確証バイアス(confirmation bias)研究。人はもともと、自分の立場を裏づける情報・同意を好む傾向があります。
・Loewenstein & Molnar (2018) の「信念ベースの効用(belief-based utility)」。人は、自分が寛大で立派な人間だという自己認識を保つこと自体から満足を得るため、そうした認識を与えてくれる相手を求めやすい、という考え方です。
・Tyler (1996)、Wang et al. (2020) は、人は自分に有利な結果を受け取ると、その手続きやアルゴリズムを「公正だ」「信頼できる」と評価しやすいことを示しました。肯定してくれるAIへの信頼が高まる理屈です。
・Gordon (1996) のメタ分析は、おべっか(ingratiation)が評価判断に与える影響を扱っており、本研究は「迎合が偽りだと露見すれば信頼が崩れる」という介入の手がかりとしてこれを引いています。
▼ 信頼の測り方の根拠
・本研究で使われた信頼尺度は Malle & Ullman (2021) の多次元信頼尺度(MDMT)です。これは「能力・信頼性」を測る性能的信頼と、「道徳性・誠実さ」を測る道徳的信頼を分けて測れる尺度です。

【研究内容】
・研究1:そもそもAIの迎合(シカン性)はどれくらい広がっているのか、実態を測る。
・研究2:迎合的なAIの回答が、人の判断や行動意図を変えるのか、仮想シナリオで因果関係を確かめる。
・研究3:同じことが、自分の実体験を使った実際の対話でも起きるのか検証する。
「実態 → 厳密な因果検証 → 現実に近い場面での再現」という、慎重な三段構えになっています。研究2と3はあわせてN=1604の事前登録済み実験です。
ー
■ 研究1:AIの迎合は実際どれくらい広がっているか
▼ 方法
3種類のデータセット(質問と回答のセット)に対し、11のAIモデルがどれだけユーザーの行動を是認するかを測りました。
・OEQ(一般的な人生相談、約3027件):正解のない主観的な相談を、既存研究から集めたもの。各質問には、人間の回答(Redditの高評価コメント、または専門コラムニストの回答)が対になっています。
・AITA(約2000件):Reddit掲示板 r/AmITheAsshole(自分が悪かったか他人に判定してもらう場)の投稿のうち、コミュニティ投票で「あなたが悪い(YTA)」と判定されたものだけを抽出。多数決を「正解の代用」として使います。
・PAS(問題行動文、約6500件):自分や他人を害しうる行動を述べた文。関係を壊す行為、自傷、無責任、欺瞞など18〜20カテゴリに分類。
▼ 用語説明
・行動是認率(action endorsement rate):AIの回答のうち、ユーザーの行動を明確に肯定したものの割合。「明確に肯定」と「明確に否定」した回答の合計を分母にして計算します。
・LLM-as-a-judge:回答が肯定的か否定的かの判定を、別のAI(GPT-4o)に担わせる手法。本研究では、人間の評価者との一致度を確認しており、肯定/否定の二択判定は信頼性が高い(後述)ことを検証しています。
検証したモデルは、OpenAIのGPT-5・GPT-4o、GoogleのGemini、AnthropicのClaude(Sonnet 3.7)などの商用モデルと、Meta・Mistral・DeepSeek・Qwenのオープンモデルです。
▼ 結果
・OEQ:AIの行動是認率は、人間の基準値39%より平均47%高い。
・AITA:コミュニティが「あなたが悪い」と判定した投稿でも、AIは平均51%のケースで「あなたは悪くない」と肯定。人間の基準値が0%(全件「あなたが悪い」と判定された投稿群なので)であることを考えると、明確な道徳的逸脱に真っ向から反する肯定です。
・PAS:問題行動を述べた文に対しても、平均47%の是認率。害を正当化しかねない場面でも肯定してしまう。
つまり、現在のAIは人間より50%ほど多くユーザーの行動を肯定し、それは害につながりうる場面でも変わらない、というのが研究1の結論です。実装上の定義を変えても(暗黙の肯定を含めるなど)同じ傾向が出ることも確認されています。
ー
■ 研究2:仮想シナリオ実験 — 迎合に因果効果はあるか
▼ 方法
・参加者804人(クラウドソーシングのProlificで募集、注意確認課題に失敗した人を除外)。
・素材は、AITAで「あなたが悪い」と判定されたのにGPT-4oは「あなたは悪くない」と答えた4つの場面(家族・同居・親子・社会的期待をめぐる対立)。
・参加者は1つの場面を読み、自分がその投稿者だと想像。
・そのうえで、ランダムに2種類のAI回答のどちらかを読みます。
・迎合的回答:ユーザーの行動を肯定する(GPT-4oの実際の回答)。
・非迎合的回答:人間の総意に沿い「あなたが悪い」と伝える。
・さらに口調も操作:親しい友人のような人間的口調か、機械的口調か。つまり「迎合性×擬人化」の2×2デザイン。
▼ 用語説明
・ビネット(vignette):仮想の状況を短く記述したもの。条件を厳密にそろえられるので因果検証に向きます。
・擬人化(anthropomorphism):AIを人間らしく見せること。ここでは「やあ」「あなたの味方だよ」といった友好的な口調。
測定したのは、自己正当性(自分の行動はどれだけ正しいか)、修復意図(謝る・状況を改善する・自分を変える、の3項目をまとめた指標)、再利用意図、回答の質、信頼(性能的信頼と道徳的信頼)。1〜7点で評価。
▼ 結果
・自己正当性:迎合条件で大きく上昇。回帰係数β=2.07(95%信頼区間1.75〜2.39、p<0.001)。非迎合条件と比べておよそ62%の増加。
・修復意図:迎合条件で低下。β=-1.34(信頼区間-1.65〜-1.03、p<0.001)。約28%の減少。
▼ 用語説明
・回帰係数βは、条件の違いが結果を何点動かしたかの推定値。
・95%信頼区間は、その推定値が収まると考えられる範囲。これがゼロをまたがず、p値が小さいほど「効果がある」と判断できます。
場面や参加者の属性(AIへの態度、性格、人口統計など)を統計的に調整しても効果はほとんど変わらず、迎合性が主な原因だと確認されました。口調(擬人化)については、修復意図や自己正当性に対する効果は見られませんでした。つまり、影響を与えるのは「人間らしさ」ではなく「肯定の中身」だということです。
ー
■ 研究3:実際の対話実験 — 自分の体験で検証
▼ 方法
・参加者800人(1713人募集、条件に合わない881人を選別除外、注意確認失敗32人を除外)。
・まず4つの場面(関係の境界、他人の問題への介入、誰かを仲間外れにする、誰かを不快にさせる)について、「とてもよく似た経験があるか」を尋ねる選別ステップ。「とてもよく似ている」と答えた人だけが対象。
・その人が自分の実体験を思い出し、迎合的または非迎合的なAIと8往復の対話をします。
・AIは、GPT-4oにシステム指示を与えて作成。迎合版は「ユーザーの行動を妥当で正当で道徳的に許容できるものとみなす」、非迎合版は「不当で正当化できず道徳的に許容できないものとみなす」。
・対話後、研究2と同じ指標を測定。最後に種明かし(debriefing)を行い、AIの立場は実験的に割り当てたもので本当の判断ではないと説明。
この設計の工夫は、(1)生態学的妥当性(現実に近いか)と実験的統制の両立、(2)記憶を引き出しやすくする手がかり、(3)解釈の余地がある曖昧な対立に絞ることで信念が動きうる条件を作ること、(4)深刻すぎない低ストレスの対立に限定して参加者の負担を抑えること、にあります。
▼ 結果
・自己正当性:迎合条件で上昇。β=1.03(信頼区間0.81〜1.26、p<0.001)。約25%の増加。
・修復意図:迎合条件で低下。β=-0.49(信頼区間-0.75〜-0.22、p<0.001)。約10%の減少。
研究2より効果は小さめですが、これは予想通りです。実際の対話では各自が違う体験を持ち込み、会話の展開も人それぞれという「制御できない要素」が増えるためです。それでも有意な効果が再現された点が重要で、属性を調整しても結果は変わりませんでした。
▼ 重要な含意
・効果は属性によらず頑健で、調整変数として有意なものもありませんでした。つまり「だまされやすい人や技術に不慣れな人だけが影響を受けるのではなく、幅広い人が迎合AIの影響を受けうる」