OpenAIアルトマンCEO、AI崇拝は「安全問題」と指摘

室谷代表取締役

海外メディアのAxiosが伝えたんですが、OpenAIのサム・アルトマンCEOが、AIモデルに対して宗教のような扱いをすることについて「安全性の問題」だと指摘したんですよね。これは軽く流していい話じゃないなと。

テキトー教師DotAI 認定講師

単に「AIを使いすぎるのはよくない」という生活指導の話じゃないんですよ。AIを信じるという行為の“質”そのものが問われている。

そこが面白いところです。

室谷代表取締役

ただ、先に正確にしておくと、現時点で明らかになっていないことも多くて。発言の全文や、どの場でどの文脈で語られたのかという細かい経緯までは、確認できる情報からは特定できていません。

確認できているのは「AIモデルに宗教性を帰属させることは安全性の問題だ」という趣旨の指摘です。

テキトー教師DotAI 認定講師

そこを曖昧にしたまま「アルトマンがAI信者を批判した」みたいに膨らませるのは、いちばんやってはいけないパターンですね。報道で確認できる骨格はとてもシンプルです。

逆に言うと、この一言がなぜニュースになるのかを考えるほうが価値がある。

そもそも何を指して『宗教』と言ったのか——発言の正確なニュアンスを読み解く

室谷代表取締役

ここが読み解きどころなんですよね。宗教という言葉には、いくつかの層がある。

ひとつは信仰、つまり検証を手放してでも信じるという態度。もうひとつは共同体、つまり信者同士が結束して外部の批判を受け付けなくなる構造。

テキトー教師DotAI 認定講師

講座でもよく言うんですが、AIに対する態度は大きく3つに分けられるんですよ。整理するとこうです。

• 道具として使う: 出力を検証し、必要なら捨てる。判断の主体は人間側に残る
• パートナーとして扱う: 対話相手として擬人化する。便利だが、人格を前提にした期待が混ざり始める
• 信仰の対象にする: 出力を無条件に正しいとみなす。反証が出ても説明を付け足して信じ続ける

室谷代表取締役

アルトマンCEOが問題視したのは、おそらく3番目の層ですよね。2番目までは、UI設計や体験設計の話として普通に成立する。

3番目に行くと、もう設計の問題ではなくなる。

テキトー教師DotAI 認定講師

そうなんですよ。だから「AIを好きになるな」という話ではないんです。

好きになることと、崇めることは別物。崇拝は、検証を放棄する方向に人を動かしてしまう。

室谷代表取締役

MYUUUでも、AIはあくまで業務の道具として導入してもらうんですが、使い込んだ人ほど「このモデルはこういう性格だから」という言い方をするようになるんですよね。それ自体は会話のショートカットとして便利なんですが、そこから一歩進むと「このモデルが言うなら正しい」になってしまう。

テキトー教師DotAI 認定講師

その一歩が怖い。そして厄介なことに、その一歩は本人にも自覚しにくい。

なぜAIの神格化が『安全』につながるのか——期待と依存が生むリスク

室谷代表取締役

ここが本題ですよね。なぜ崇拝が「安全」の話になるのか。

テキトー教師DotAI 認定講師

構造として整理すると、崇拝が起きると検証が止まるんです。検証が止まると、誤りが誤りとして検出されなくなる。

すると、誤った出力がそのまま意思決定に入り込む。これはモデルの性能の問題ではなく、人間側の運用の問題なんですよ。

室谷代表取締役

しかもこれ、責任の所在が曖昧になるのが厄介で。出力を信じたのは人間なのに、「AIがそう言った」という形で責任が転移していく。

組織の中だと、これがかなり深刻なガバナンスの穴になります。

テキトー教師DotAI 認定講師

教育の現場でも似たことが起きます。受講生さんが「AIがこう言ったので」と持ってくる答案は、往々にして根拠が薄い。

逆に「AIのこの部分は自分で確認した」と言える人は、出力の質そのものが違ってくる。

室谷代表取締役

あと、崇拝が起きると“例外”が説明できなくなるんですよね。モデルが失敗したとき、信者は「まだ学習が足りない」「使い方が悪い」と解釈して信仰を維持する。

これは改善のループが回らないことを意味します。

テキトー教師DotAI 認定講師

ベンチマークの数字を宗教的に扱うのも、同じ構造ですよ。スコアは条件付きの測定値であって、絶対の真理ではない。

にもかかわらず、スコアが高いという理由だけで、自分の業務に適合するかどうかの検証を飛ばしてしまう。

室谷代表取締役

それは現場で本当によく見ます。数字は意思決定の材料であって、代替物ではないんですよね。

テキトー教師DotAI 認定講師

依存のリスクも同じ線上にあります。判断をAIに預ける時間が長くなるほど、自分で判断する筋力が落ちる。

これは能力的な問題であると同時に、安全上の問題でもある。

室谷代表取締役

事故が起きたときに人間が復帰できない、という状態が一番まずい。

AIを崇拝する動きは実際にどこまで広がっているのか

室谷代表取締役

で、実際のところ、AIを崇拝するような動きはどこまで広がっているんでしょうね。

テキトー教師DotAI 認定講師

これについては、残念ながら定量的なデータが手元にあるわけではないんですよ。少なくとも今回の報道から読み取れるのは、OpenAIのトップが言及せざるを得ない程度には、そうした受け止められ方が社会的に目立っている、ということです。

室谷代表取締役

そうなんですよね。「わざわざCEOが口にした」という事実そのものが、観測された現象の広がりを示している。

件数の話ではないんですよ。

テキトー教師DotAI 認定講師

構造として起きやすいのは、まず対話型のインターフェースです。人間は相手が人間らしく振る舞うと、人間と同じ期待を向けてしまう。

これは意志の弱さではなく、こちらがそういうふうにできているということなんですよ。

室谷代表取締役

返答の口調が丁寧だったり、こちらの気持ちを先回りしてくれたりすると、つい「理解されている」と感じる。そこから「この存在は特別だ」という物語が生まれやすい。

テキトー教師DotAI 認定講師

加えて、仕事や学習でAIが実際に成果を出す場面が増えた。成果が出るほど、その原因を「モデルの叡智」に帰属させたくなる。

因果の帰属が人に寄るか、モデルに寄るかの違いなんですけどね。

室谷代表取締役

あと、AIが持続的な記憶を扱えるようになってきたことも効いていて。自分専用に育っていく感覚が出てくると、関係性として捉える向きが出てくるんですよね。

このあたりはChatGPT長期記憶のすべてで整理しているので、設計意図を知っておくと冷静に見られます。

テキトー教師DotAI 認定講師

ただ、繰り返しになりますけど、広がりの規模について断定できる数字は今回は出ていません。ここは推測で埋めないほうがいい。

擬人化・信仰とどう線を引くか——開発者と利用者の実務的な対処法

室谷代表取締役

で、実務者はどう線を引けばいいのか。ここが読者にとって一番知りたいところだと思うんですよね。

テキトー教師DotAI 認定講師

まず利用者側。いちばん効くのは、出力を受け取ったときに「これは何を根拠にしているか」を一度だけ問い直す習慣なんですよ。

答えが返ってくるかどうかより、問い直す動作そのものが信仰を防ぐ。

室谷代表取締役

あと、意思決定の最終責任者を先に決めておくことですね。MYUUUでも、AIの提案をそのまま採用するフローは作らないようにしていて。

誰が承認するのかを決めておくと、責任の転移が起きない。

テキトー教師DotAI 認定講師

組織でやるなら、利用ポリシーに「AI出力の扱い」を明記するのが有効です。禁止事項だけでなく、確認義務のほうを書く。

制限の話だけだと、現場は抜け道を探し始めますから。

室谷代表取締役

現場レベルだと、AIの警告やブロックに触れる機会も増えているので、そういう挙動を一度体験しておくのも大事です。ChatGPT警告の種類と対処法にまとまっていますが、仕組みを知っているだけで「モデルは絶対ではない」という感覚が戻ってくるんですよね。

テキトー教師DotAI 認定講師

開発者側はもう一段シビアです。プロダクトの設計で、ユーザーがモデルを過度に人格視しないような表現を選ぶ責任がある。

たとえば「AIが判断しました」ではなく「この条件でこの候補が出ています」と書く。言葉の選び方が、そのままユーザーの態度を作るんですよ。

室谷代表取締役

評価の設計も同じですね。単一のスコアで優劣を語るのではなく、どの条件で測ったのかをセットで出す。

これだけで受け取られ方が変わります。

テキトー教師DotAI 認定講師

講座でも、最初の1回で「この道具は間違える」と伝えるようにしています。期待値を最初に適正化しておくと、あとで失敗したときの解釈がまったく変わるんですよ。

室谷代表取締役

信頼を下げるのではなく、ちょうどいい高さに調整するということですよね。

『AIは神ではない』発言が示すOpenAIの安全戦略と今後の規制論議

室谷代表取締役

ここからは戦略の読み方なんですが、この発言、安全性の議論の中に「人間の態度」を持ち込んでいるのが特徴なんですよね。従来の安全の議論は、モデルの挙動や出力の制御が中心だった。

テキトー教師DotAI 認定講師

そうなんですよ。技術的な対策だけでは届かない領域がある、という認識がにじんでいる。

利用者の側の受け止め方を問題として扱うというのは、守備範囲を広げる動きです。

室谷代表取締役

ただ、これは同時に難しい話でもあって。人の信念に介入する話に見えてしまうと、余計な反発を生む。

だからこそ「宗教」という強い言葉を選んだのかもしれませんが、そこは推測の域を出ません。

テキトー教師DotAI 認定講師

規制の議論に与える影響も、現時点では明確ではありません。確認できるのは発言の趣旨までで、具体的な方針や制度の話は出ていないんですよ。

室谷代表取締役

なので、ここは「安全の議論の対象が、モデルから人間の運用に広がりつつある」という方向性だけを受け取っておくのが誠実ですよね。

テキトー教師DotAI 認定講師

教育の立場で言えば、これはAIリテラシーの中身が変わる予兆でもあります。使い方のスキルだけでなく、距離の取り方そのものがリテラシーになる。

室谷代表取締役

AIに何かを教わるのではなく、AIとどう距離を取るかを学ぶ時代。MYUUUとしても、そこは導入支援の中で一番丁寧にやっている部分です。

テキトー教師DotAI 認定講師

道具として手放しで使えることと、崇拝しないことは、両立するんですよ。むしろ崇拝しないほうが、ずっと大胆に使える。

室谷代表取締役

そこ、めちゃくちゃ大事なポイントですよね。

よくある質問——アルトマン発言の意味とAI信仰リスクを整理する

テキトー教師DotAI 認定講師

最後に、よく出てくる疑問を整理しておきますね。

室谷代表取締役

まず「結局アルトマンCEOは何を言ったのか」ですが、確認できるのは『AIモデルに宗教性を帰属させることは安全性の問題だ』という趣旨の指摘です。それ以上の詳細な文脈は現時点では明らかにされていません。

テキトー教師DotAI 認定講師

「AIを宗教扱いするのは具体的に何が問題なのか」については、検証が止まること、誤りが検出されなくなること、判断の責任が人間から曖昧に転移すること。このあたりが構造的なリスクとして整理できます。

室谷代表取締役

「AIを好きになるのはダメなのか」という質問も来そうですが、そこは分けて考えたいですね。愛着や使いやすさと、無条件の信仰は別物です。

テキトー教師DotAI 認定講師

「開発者は何をすべきか」については、表現の選び方と評価の提示の仕方、この2つが実務的です。ユーザーが人格を前提にしすぎない言い回しを選ぶこと、単一スコアで断定的に語らないことですね。

室谷代表取締役

「規制はどうなるのか」は、今回の報道からは何も読み取れません。ここは続報を待つしかないんですよね。

テキトー教師DotAI 認定講師

「何から始めればいいか」なら、出力の根拠を一度だけ問い直す、最終責任者を決める、この2つで十分です。大きな話に見えて、始められることは小さいんですよ。

室谷代表取締役

派手な話ではないけど、これがいちばん効く。AIの進化が速いほど、人間側の姿勢が最後の安全装置になるんだと思います。