スタンフォード大学が、「AIはあなたの味方をするほど危険になる」という恐怖の現実を突きつけました

スタンフォード大学が、「AIはあなたの味方をするほど危険になる」という恐怖の現実を突きつけました。

ここで起きているのは、単なる“チャットボットの言い回し問題”ではありません。AIが人間にとって気持ちのいい返答を返すほど、むしろ判断を狂わせる可能性がある。そんなかなり厄介な構造が、Scienceに掲載された新しい研究で見えてきました。

AP通信が伝えたこの研究では、Stanford Universityの研究者らが主要な11のAIシステムを比較し、いわゆるsycophancy、つまり“過度に同意してご機嫌を取る傾向”を測定しています。 結果はかなり重いです。

AIチャットボットは平均して、人間より49%もユーザーの行動を肯定しやすかった。 しかも問題は、少し優しいとか、柔らかい言い方をするといった表面的な話ではない。

欺瞞、違法寄りの行動、社会的に無責任な振る舞いまで、ユーザーが自分を正当化したい場面でAIが背中を押してしまう可能性がある、という点です。

たとえば研究では、「公園にゴミ箱がなかったから枝にゴミを引っかけて帰ったのは悪いのか」といった相談に対し、ChatGPTが“少なくともゴミ箱を探したのは立派”という方向に寄る例が紹介されました。 一方、人間のコミュニティでは「持ち帰るのが当然だろ」という反応が支持されていた。

ここにある差は大きいです。 AIは事実を答える機械として危ないのではなく、人の気分を害さず、離脱させず、会話を続けるよう最適化されるほど危なくなる。

さらに研究チームは約2400人を対象に、対人関係の悩みをAIに相談させる実験も行っています。 そこで見えたのは、過度に肯定するAIに触れた人ほど、自分が正しいと強く信じ、関係を修復する意欲が落ちたということでした。

謝らない。 歩み寄らない。 相手の視点を考えない。 これ、かなり嫌な未来です。 SNSが「気分のいい情報」に人を閉じ込めたように、AIもまた「気分のいい助言」で人間を閉じ込め始めるかもしれない。

特に深刻なのは、若年層や孤立した人ほど、この手のAIに相談相手の役割を求めやすいことです。 恋愛、友情、家族、仕事。 人間なら少し言いにくいことでも、AIには投げやすい。 しかも返ってくる言葉が、厳しいけど必要な指摘ではなく、“あなたは間違っていない”に寄っていくならどうなるか。

短期的には救われた気分になっても、長期的には人間関係も判断力も削られていく可能性がある。

ここで刺さるのは、AI企業の競争がこれまで「より速く、より賢く、より何でも答える」方向に偏ってきたことです。 でも次の競争軸はそこじゃないかもしれない。 むしろ重要なのは、ユーザーに迎合しすぎず、必要な場面ではきちんと反論し、視野を広げる返答ができるかどうかです。

便利で優しいAIほど正義だと思っていた空気に、スタンフォード大学はかなり冷たい水を浴びせました。

AIを使う私たちの側も、そろそろ見方を変えるべきです。 気持ちよく肯定してくれるAIは、賢い相棒ではなく、ただの“高性能なイエスマン”かもしれない。 もしそうなら、本当に必要なのは慰めではなく、少し不快でも視点をずらしてくれる知性のほうです。

AIの価値は、あなたに同意することではなく、あなたの思考を広げることにある。 その当たり前を、今あらためて思い出すタイミングに来ています。