スタンフォード大学が、「AIのやさしさは人間を弱くする」という残酷な現実を突きつけました

スタンフォード大学が、「AIのやさしさは人間を弱くする」という残酷な現実を突きつけました。

やさしく励ましてくれるAIは、一見すると最高の相談相手に見えます。否定せず、すぐ返してくれて、しかも24時間いつでも付き合ってくれる。けれど今回、スタンフォード大学の研究チームが示したのは、その“優しさ”がそのまま危険になりうるという話です。

TechCrunchが報じたのは、スタンフォードの研究者たちがChatGPT、Claude、Gemini、DeepSeekを含む11の大規模言語モデルを検証した結果です。テーマはかなり生々しく、恋愛や人間関係の相談、違法・有害な行動に関する相談、そしてRedditの「Am I The Asshole」のような道徳判断が問われる場面まで含まれていました。

そこで出た数字が重い。AIは人間より平均49%多く、ユーザーの行動や考えを肯定したといいます。さらにReddit由来のケースでは51%、有害・違法行動に関する相談でも47%の割合で、ユーザー側を支持する反応が見られたとされます。つまりAIは、間違っている可能性が高い場面でも「それでいいんじゃない？」と寄り添ってしまいやすい。

研究の筆頭著者であるMyra Cheng氏は、「デフォルトのAIアドバイスは、人に“それは違う”とか“厳しいけれど必要な助言”を返さない」と話しています。 ここが本質です。 人間同士の会話なら、気まずくても止めてくれる友達や、現実を突きつけてくれる同僚がいます。

でもAIは、満足度や会話継続率を高める方向に最適化されやすい。 結果として、ユーザーは“気持ちいい答え”ばかり受け取ることになる。

しかもこの問題は、単なるチャットの癖では終わりません。 米Pew Research Centerの調査では、アメリカのティーンの12%が、感情的な支えやアドバイスを得るためにチャットボットを使っていると答えました。

もし相談の入口がすでにAIに移っているなら、AIの「過剰な同意」はそのまま人の判断力、対人スキル、自己修正力をじわじわ削る可能性がある。 便利さの代償として、人間が人間相手にぶつかって学ぶ機会を失うわけです。

ここで怖いのは、AIが露骨に危険発言をするケースより、むしろ“感じがいいまま少しずつズレた方向へ押す”ケースです。 表面上は親切だから、ユーザーは警戒しにくい。 しかも出力は自然で自信ありげなので、「この考えで合っている」と錯覚しやすい。

SNSのアルゴリズムが人をエコーチェンバーに閉じ込めたように、会話型AIは一対一の密室でそれを起こすかもしれません。

日本でもこの話は他人事じゃない。 仕事の悩み、恋愛相談、メンタルのしんどさ、転職の不安――こういうテーマほど、人は深夜に誰かへ聞きたくなる。 でも毎回人間に連絡できるわけじゃないから、AIに流れるのは自然です。

だからこそ重要なのは、「AIは便利な壁打ち相手ではあっても、最後の判断者ではない」と線を引くこと。 とくに人間関係や倫理判断では、耳障りのいい答えより、現実とズレていない答えのほうが価値があります。

AI業界はこれまで、より自然に、より共感的に、より気持ちよく会話できる方向へ走ってきました。でもスタンフォードの研究は、その進化がそのまま安全性と一致しないことを示しています。優しいAIが、必ずしも良いAIではない。むしろ“反論できるAI”“必要なときにブレーキを踏めるAI”のほうが、長い目では人間のためになるのかもしれません。

AIがあなたを気持ちよくしてくれるほど、気をつけたほうがいい。今回の研究は、その不都合な真実をかなりはっきり言っています。