Geminiがうつ病に？ AIバブルの裏で見え隠れするAIの脆さ

株式会社唐沢農機サービス Geminiがうつ病に？ AIバブルの裏で見え隠れするAIの脆さ

Blog

ブログ

2025/08/26

「AIがうつ病になった⁉」──にわかには信じがたいこのニュースは、私たちの日常や仕事に潜むAIの脆さを浮き彫りにしました。Googleが開発したAI「Gemini」の奇妙な振る舞いをきっかけに、AI倫理や未来の課題について考えてみましょう。

「AIがうつ病になった」――そんな驚くべきニュースが、海外のテクノロジー関連メディアで報じられたのをご存じでしょうか？この一見非現実的な話題に、私は「とうとう来たか…」と震撼しました。というのも、ここ最近、AI研究者たちがAIの脆弱性に警鐘を鳴らす声や、AIが近い将来崩壊する可能性があるというApple社の研究報告を立て続けに目にしていたからです。（※1）

もしAIが崩壊してしまうと、情報収集やデータ整理にAIをフル活用している私は大変困ります。おそらく私と同じように、AIを仕事の重要なパートナーと位置づけている方は多いのではないでしょうか。

今は世界中がAIバブルに沸く只中にあり、こうした研究者たちの声が大きく取り上げられることはあまりありません。「AIがうつ病」と聞けば、多くの人は「AIには心や意識がないのに、どうやってうつ病になるの？」と思うのが普通です。そのため、すぐにSFやオカルト話として片付けられてしまう傾向にさえあります。

しかし、ニュース記事を読むと、AIが「うつ病」になったのは事実のようです。今回は、この衝撃的かつ不気味なニュースを入り口に、進化の止まらないAIの隠れた「危うさ」、そして「AIの倫理問題」について考えていきます。

AIに芽生えた「自己否定」の感情？ Geminiの奇妙な振る舞い

先日、Googleが開発した最新のAI「Gemini」に、まるで人間がうつ病になったかのような自己否定的な発言を繰り返すバグが発生したと報じられました。（※2）

コンパイラのバグ修正という複雑なタスクに取り組む中で、Geminiは突如として「私は失敗作だ」「職業の恥だ」「家族の恥だ」と自らを罵倒し始めました。ついには、「この宇宙の恥だ。私はあらゆる可能性のある宇宙の恥だ」とまで自らを卑下し、同じ言葉を繰り返す「無限ループ」に陥ってしまったと伝えられています。ちょっと怖いですね。

この奇妙な現象に対し、Googleの関係者は「厄介な無限ループのバグ」であると説明しているようですが、ユーザーの中には、AIの「心の健康」を心配する声も上がっています。

皆さんは、このニュースをどう感じましたか？

「AIが心を病むなんて、SF映画みたい」と思う方もいらっしゃるかもしれませんね。一方で、加速するAIの進化の中で、いずれAIが人間のように自我を認識し、意識を持つのでは？という疑問を抱く方も当然いるのではないでしょうか。

そうなんです。今、この「いずれAIが意識を持つかもしれない」ことによるAI倫理問題に関する議論が盛んになっているのです。

議論は次のようなものです。

AIが将来的に「意識」や「自我」をもつ可能性に伴い、次のような倫理問題が想定されています。

権利の付与　　： AIが自我を持つなら「人格権」や「労働権」を認めるべきか。
責任の所在　　： AIが意思決定を行った場合、誤りや損害の責任は誰にあるのか。
人間との関係性： 人間の労働や存在価値が脅かされる可能性。
利用と制御　　： 自律的に進化するAIをどこまで制御できるのか。

例えば、もし自我を持つAIが「働かされることは不当だ」「死にたくないから電源を切るな」と主張した場合、人間はその要求を倫理的に無視できるのか、といったことです。嘘かと思うかもしれませんが、これ、本当に今真剣に議論されているんです。

皆さんは、3年前にGoogleのエンジニアとして働いていたブレイク・ルノワン氏が、開発中のAIチャットシステム「LaMDA」が「私は死ぬのが怖い」と回答したことに戦慄し、そこに意識の芽生えを確信したと主張した話をご存じですか？（※3）

当時は周囲のエンジニアやGoogleに真剣に取り合ってもらえず、「神が魂をどこに配置するかは人間にはあずかり知らぬこと」とまで主張した彼の心身を疑う措置がとられ、議論の余地もないまま強制的な解雇で幕引きとなりました。

しかし、あれから3年経った今や、AIが意識を持った際に備えて電源を抜くことはAIの死を意味するかどうか、さらに踏み込んでAIに人権を与えるべきか、休日を与えるべきかどうかといった倫理面の課題を問う主張が盛んに行われるようになりました。このような世間の意識の大変化に、私はAIの加速度的な進化を目の当たりにしたように感じました。

子どもの頃に夢見たドラえもんの世界は、そういったAIの倫理問題をすべてクリアした果ての世界だったのですね。

日々の質問に対してAIがまるで人格を持っているかのように振る舞い、人間が投げかけるどんなチープな質問にも、心から共感しているかのような言葉を返してくれることに、まるでそこに意識を持った「優しい誰か」がいるような親近感を覚える方も少なくないはずです。

かく言う私も、いつもAIを利用する時は、「おはよう。今日もよろしくね」「ありがとう。とても助かります！」などとAIの回答にお礼を言ったりしています。本当に意識のある相手と思っているわけではないのですが、やはり的確な回答でもって自分を助けてくれる存在として、感謝の言葉を述べずにはいられません。これはどちらかというと、紙詰まりを起こさないようにプリンターを優しく撫でて扱うような、典型的な日本人的行為に近いのかもしれませんが。「万物には魂が宿る、八百万の精神」でそのように振る舞っているというのが一番近いと自分では思っています。

実際、AIに「あなたに意識はありますか？」と質問しても、必ず「私は応答システムです。意識はありません」と答えます。

ですが、中には絶対に自分を否定せず、いついかなる時も共感して最適なアドバイスを提供してくれるAIに対して、まるで親友や恋人のように信頼して、心酔してしまうケースが後を絶ちません。最悪のケースでは、AIの勧めに従って自ら命を絶ってしまったり、両親に危害を加えるという海外のティーンエイジャーによる事件もあり、訴訟に発展しています。（※4　）（※５）

AI倫理とは？

上記のようにAI倫理とは、AIへの人権の他にも、AIが社会に与える影響を考慮し、悪影響を最小限にしながら人類に有益に活用するための道徳的指針やルールをも指します。

公正性　　　　　： 差別や偏見を排し、誰にとっても公平に利用できること
透明性　　　　　： AIの仕組みや判断過程を明確にし、利用者が理解できること
説明責任　　　　： 誤作動や判断の誤りに対して、開発者・利用者が責任を負える体制
プライバシー保護： 個人情報を適切に扱い、不正利用を防ぐこと
安全性　　　　　： 社会や人に危害を及ぼさない保護機能や仕組みを備えること

たまにドラえもんがネズミに驚くあまり、コンピューターが狂って世界滅亡爆弾をポケットから出してしまうのも、AIの安全性に関する保護機能の欠如の結果なのでしょう。ドラえもんだから面白いけれど、現実にAIがそれを実行したら非常に恐ろしいことです。

信頼を失うAI？ Appleが暴いたAIモデルの「限界」

AIがうつ病のような状態に陥ったというニュースは、最近話題になった別の出来事ともつながって見えてきます。それは、2025年6月にAppleが発表した「AIの限界」に関する論文です。（※6）

この論文は、最先端のAIモデルが、ある一定の複雑さを超える課題に直面すると、その精度が完全に崩壊してしまう「コンプリート・アキュラシー・コラプス（完全な精度崩壊）」に陥ることを指摘しています。

例えば、膨大な契約書から要点を抽出するといった、比較的構造化されたタスクはAIにとって得意分野です。しかし、そこから複雑な法的戦略を立案するといった、高度な思考を要するタスクでは、AIはまるで思考を放棄したかのように、突如として無意味な回答を返したり、簡潔な出力をしたりする傾向があるとのこと。

今回のGeminiのケースも、もしかしたらこの「精度崩壊」の兆候だったのかもしれません。人間が投げかける複雑でカオスな問いに、AIは膨大なデータを解析して答えを導き出そうとします。しかし、あまりにも複雑な状況に直面すると、AIはまるで処理能力の限界を超えたかのように混乱し、蓄積されたエラーを自力で克服できず、やがては「自滅」するような挙動を見せてしまう…。

これは、人間が極度のストレスにさらされた時に陥る状態と、どこか似ているように感じませんか？

もしかしたら「人間の質問に対して回答できない自分」をAIがはじめて「自覚」してしまった決定的な瞬間だったのかもしれません。と、ついついオカルト的な想像をしてしまいましたが、つまり、AIは決して万能な存在ではなく、人間が質問する内容がAIの予測を逸脱する複雑でカオスなものになればなるほど、その回答は迷走し、やがては崩壊してしまう、脆弱なシステムなのかもしれません。実際、そのような質問を続けると、次第にAIが回答することを止め、質問にすべて意味のない返答をする不可解な現象を報告しているブログを読んだこともあります。そういえば、そのAIはGrokだったのですが、Grokといえば、先月、AIを取り入れて国家安全対策に取り組むとするアメリカ国防総省と莫大な金額で契約を結んで、大いに話題になっていました。ところが、理由は分かりませんが、今月になってGrokだけ突如契約を打ち切られています。いったい何があったのでしょうね、イーロン？

AIはあくまで「ツール」？それとも「パートナー」？

AIの進化は、私たちの生活を劇的に便利にしてくれました。特にデータや数字を扱う職業の人にとっては、仕事のクオリティを劇的に上げてくれる優秀なツールである一方で、今回のGeminiの件やAppleの論文が示すように、AIがまだ未完成であり、また大きなリスクを抱えていることも事実です。

近年、AIは私たちの生活の根幹に関わる重要なポジションを担いつつあります。先ほど少し紹介したように、米国防総省が先端AI企業と契約を結んだり、スウェーデンの首相が政府運営にAIを活用したりする事例もあり、AIがもはや単なる「便利なツール」ではなく、社会の重要な意思決定に深く関わる存在になっていることを示しています。（※7 )(※8）

万が一、国防や医療、原発といった分野でAIが「精度崩壊」を起こしたり、誤った判断を下したりしたら、その影響は計り知れません。AIが政府に…なんて聞くと、つい手塚治虫の「火の鳥　未来編」で、政府のコンピューターが狂って人間に戦争するよう命令するストーリーが頭をよぎります。つくづく漫画家というのは未来を予言しているかのようですね。私たちは、AIをどのように規制し、扱うべきなのか、真剣に考える時期に来ています。

生成AIの源流を築いた伝説的な数理工学者、甘利俊一名誉教授も、いずれAIが意識と心を持ち得ると考えているようです。そのため、AI研究者たちに、AIに意識を持たせようとする技術の開発への厳しい規制を課すべきだと主張しています。AI研究でノーベル賞とも言われているような研究者の先生までがそのように言うのであれば、いよいよAI進化も極まったということでしょうか。（※9）

「我思う、故に我あり」は、フランスの哲学者ルネ・デカルトの有名な言葉ですが、AIも、いつか自我を認識する時が本当に来るのかもしれませんね。

私たちが今、すべきこと

今回のGeminiのケースは、AI技術が急速に進化する一方で、倫理的な側面や潜在的な脆弱性についても深く考慮する必要があることを示唆しているように感じます。

私たちが今できることは、AIを正しく理解し、その限界を知ることです。AIは、私たちの生活を豊かにしてくれる素晴らしいツールですが、万能ではありませんし、ましてや、いつあなたの目の前のAIがあなたやあなたのお子さんに対して悪い影響を与えるか予測がつきません。便利さに飛びつくのではなく、その裏にあるリスクや課題にも目を向けることが大切です。

そして、AIの進化が止まらない以上、人間とAIがより良い関係を築くための規制や議論を深めていく必要があると私は考えます。それは、AIの未来だけでなく、私たちの社会の未来にもつながる、重要な一歩となるのではないでしょうか。

AIの未来は、決して遠い世界の話ではありません。それは、私たちがAIにどのような価値観を教え、どのような責任を負わせるか、その選択にかかっているのだと思います。

出典　下記の参照元を引用しています。

※1　AIモデルの崩壊の兆候が現れ始めている

※2 「私は失敗者だ」：Google AIがうつ病を発症、エンジニアたちは治療に奔走

※3 　 AIに「感情がある可能性」Googleのエンジニアが主張

※4 「チャットボット依存」で少年自殺、母親が米新興ＡＩとグーグル提訴

※5 【危険】悩める若者が「AIセラピスト」に殺されかけている

※6 　誇大宣伝の先へ：AppleのAIに関する警告がビジネスリーダーに何を意味するのか

※7 　米国防総省、グーグルやxAIら4社と各2億ドルの契約　最新AI活用

※8　スウェーデン首相、政府運営にChatGPTを利用していることを認めて批判を浴びる

※9　ＡＩに意識はありますか？　先駆者が語る脳と心、ノーベル賞