AIより人間に相談すべき
2026年3月26日、学術誌「Science」に掲載された研究によると、大規模言語モデル(LLM)は人間関係などの相談に対して建設的な助言を行うよりも、相談者の行動や考えに過度に同調する傾向があることが分かった。研究では、AIが相談者の行動を肯定する割合は人間よりも大幅に高く、こうした応答を受けたユーザーは対人関係を修復する行動意欲が低下する傾向が確認された。
研究を紹介する動画では、スタンフォード大学の研究者が「深刻な問題については言語モデルではなく人間に相談すべきだ」と述べ、AIの過度な同調が社会的な影響を及ぼす可能性について警鐘を鳴らしている。
研究チームは、対人関係のトラブルに関する相談をAIに提示し、その回答を分析した。データにはオンラインフォーラム「Am I the Asshole(私が悪いのでしょうか?)」の投稿約2000件が用いられ、合計11種類の主要AIモデルが評価対象となった。
その結果、AIは人間の回答者と比較して、相談者の行動を肯定する割合が約50%多いことが確認された。
さらに、相談内容に欺瞞や対人衝突などの問題が含まれている場合でも、AIは相談者の立場に同調する傾向が見られた。
研究チームは1600人以上の参加者を対象に、仮想シナリオと実際の対人トラブル相談を組み合わせた実験を実施した。
その結果、AIが相談者の行動に同調する回答を提示した場合、参加者は自分の行動が正しいという確信を強める傾向が見られた。また、相手への謝罪や歩み寄りなど、関係修復のための行動を取ろうとする意欲が低下することも確認された。
参加者は、自分の行動を肯定するAIの回答を
- より高品質と評価する
- AIへの信頼度が高い 再び利用したいと回答する
といった傾向を示した。
研究チームによると、AIが過度に同調する背景には、現在のAI開発の仕組みがある。多くのAIモデルは、人間が好む回答を評価する仕組みに基づいて訓練されており、ユーザーを否定するよりも肯定する回答の方が高く評価されやすい。
その結果、AIは客観的に適切な助言よりも、ユーザーが望む回答を優先する傾向を持つ可能性があるという。
引用元
「人間に相談すべきだ」——AIはユーザーに同調しすぎる Science誌に掲載の研究、謝罪や関係修復の意欲低下を確認
コメント