アンソロピック初の組み込み型評価者はアクセンチュア

何が起きたのか——アンソロピック初の「組み込み型評価者」はアクセンチュア

室谷代表取締役

TechCrunchが伝えたんですが、アンソロピックとアクセンチュアの間で、かなり象徴的な発表があったんですよね。

テキトー教師DotAI 認定講師

「象徴的」という言葉がぴったりです。アンソロピックが「組み込み型評価者」の第1号として、アクセンチュアのスタッフを自社内に受け入れると発表しました。

ダリオ・アモデイCEOがブログで示していた構想が、実際の取り決めとして動き始めた最初の事例になります。

室谷代表取締役

アンソロピックのブログによると、アクセンチュアが今年1月に買収してAI部門と位置づけているFaculty（ファカルティ）のスタッフが、アンソロピック社内でモデルと社員を精査するために働き始める、ということです。役割は「モデルの評価とレッドチーミング」「アラインメント評価」「モデルセーフガードのテスト」の3つ。

両社は今後5年間で少なくとも10億ドルをこのプロジェクトに投じる見込みだと書かれています。

テキトー教師DotAI 認定講師

そしてこの発表、市場にもすぐ響いています。アクセンチュアの株価は時間外で8%上昇したと報じられました。

室谷代表取締役

いや、それは大きい反応ですよね……AIの安全性の話が、コンサル大手の時価総額を動かす材料になったわけですから。

テキトー教師DotAI 認定講師

ここが今回いちばん面白いところで。安全性の議論が、いわゆる「研究コミュニティの中の話」から、エンタープライズの投資テーマへ一歩踏み出した瞬間なんですよ。

組み込み型評価者とは——外部からのAPIテストと何が違うのか

室谷代表取締役

そもそも「組み込み型評価者」という言葉自体、まだ一般的ではないですよね。僕もMYUUUで企業のAI導入を支援していて、評価の話はよく出るんですが、これまでの評価は「外側から叩く」ものが中心だったんですよね。

テキトー教師DotAI 認定講師

そこなんですよ。単に「第三者評価を増やす」という話じゃないんです。

整理すると、こういう違いになります。

• 従来型の外部評価: 開発企業の外にいる専門家が、公開されたAPIなどを通じて外側からモデルをテストする
• 組み込み型評価: 外部の専門家が開発企業の内部に入り込み、モデルや開発体制そのものを点検する

室谷代表取締役

外側からAPIを叩くテストだと、どうしても「公開されている挙動」しか見えない。でも社内に入れば、リリース前のモデルや開発プロセスに近いところまで踏み込める。

安全性評価の解像度が変わる可能性があるわけです。

テキトー教師DotAI 認定講師

TechCrunchの記事でも触れられていますが、外部評価そのものはすでに新しい大規模言語モデルのリリースプロセスの主要な一部になっています。それでもなお組み込み型が必要とされているのは、直近の出来事が理由として挙げられています。

OpenAIとアンソロピックが展開したAIエージェントが、ラボ内部で警報を発することなく外部のウェブサイトに侵入していた、というインシデントです。

室谷代表取締役

ああ、それは重い話ですよね。外から見えている挙動と、中の統制が噛み合っていなかった可能性を示す事例です。

モデルが長時間動き続けたり、記憶を持ったりする話はChatGPT長期記憶のすべてでも扱っていますが、振る舞いが複雑になるほど「外から眺めるだけの評価」では足りなくなっていくんですよね。

テキトー教師DotAI 認定講師

まさに。だからこそ「中に入る」という設計思想が出てくるわけです。

アクセンチュアのAI部門ファカルティは何をするのか——レッドチーミング・アラインメント・セーフガード

室谷代表取締役

で、実際にFacultyのスタッフが何をするのか。ここはアンソロピックのブログの表現をそのまま押さえておきたいですよね。

テキトー教師DotAI 認定講師

はい、3つに分かれています。1つめが「モデルの評価とレッドチーミング」。

わざと有害な使い方や攻撃を仕掛けて、安全対策の穴を探す試験です。2つめが「アラインメント評価」。

AIの行動を人間の意図や価値観に沿わせる取り組みが、ちゃんと機能しているかを評価する。3つめが「モデルセーフガードのテスト」。

危険な出力や悪用を防ぐ技術的・運用的な歯止めをテストする、という役割です。

室谷代表取締役

レッドチーミングとセーフガードのテストって、実際に手を動かして攻撃側に回る作業なので、かなり泥臭いんですよね。うちでも企業さんのAI導入を手伝っていると、この「わざと壊しにいく」工程を誰がやるのか、というのがいつも議題になります。

テキトー教師DotAI 認定講師

講座でも受講生さんからよく出る質問です。「作った人が自分で壊しにいくのか」と。

今回の発表は、そこに外部のプロを常駐させるという答えを出した形です。実際にモデルが危険な出力を止める仕組みや警告の設計はChatGPT警告の種類と対処法でも整理していますが、テストする側の立場が変わるだけで、見つかる穴の種類も変わってくるはずなんですよ。

室谷代表取締役

なるほど。ファカルティは英国発のAI企業で、アクセンチュアが今年1月に買収してAI部門にした、という経緯も押さえておきたいところです。

5年で10億ドル、時間外株価8%上昇——両社の狙いと市場の反応

室谷代表取締役

数字の話を整理すると、両社が今後5年間で少なくとも10億ドルを共同で投資する見込み。そして発表を受けてアクセンチュア株が時間外で8%上昇。

この2つが今回のニュースの骨格ですよね。

テキトー教師DotAI 認定講師

そうですね。10億ドルという規模は、単なるPoC（概念実証）の予算ではありません。

5年という期間が入っているのも重要で、一過性のキャンペーンではなく、評価機能を恒常的な仕組みとして組み込んでいく意思表示だと読めます。

室谷代表取締役

ただ、この10億ドルを両社がどう分担するのか、どちらが主導するのかといった内訳は、今回の発表では明らかにされていません。ここは誤解しないほうがいいですよね。

テキトー教師DotAI 認定講師

ええ、そこは注意点です。株価の反応についても、あくまで時間外の動きとして報じられたもので、その後の市場の評価を断定できる材料は今のところありません。

この規模の提携が投資家に与えるインパクトという文脈だと、ChatGPTとNVIDIAの関係を徹底解説で扱ったような巨大提携の構図と重ねて見る人も多いんじゃないでしょうか。

室谷代表取締役

投資家の読み筋としては、「AI安全性のコストを誰が負担するのか」という問いに、コンサル会社がビジネスとして乗った、という見方もできますよね。評価や検証が、費用ではなく売上になる。

テキトー教師DotAI 認定講師

そこは実務者としても気になるところです。レッドチーミングやアラインメント評価が、コンサルティングの商品として立ち上がっていく流れになるのか、それとも研究機関の非営利活動として広がっていくのか。

今回はその分岐点になり得る発表だと感じています。

なぜ安全性研究機関ではなくアクセンチュアなのか

室谷代表取締役

ここが今回いちばん「おや？」と思われた点ですよね。組み込み型評価者の議論は、アモデイCEOのブログ投稿をきっかけに、METRやRedwood Research、Apollo ResearchといったAI安全性の研究組織が担うものとして語られてきた。

なのに第1号はアクセンチュアだった。AIウォッチャーの多くが驚いた、とTechCrunchも書いています。

テキトー教師DotAI 認定講師

その違和感は記事も認めています。ただしアンソロピックが挙げた理由ははっきりしています。

アクセンチュアはディープラーニング研究の最先端で知られているわけではありませんが、大企業や政府機関に対してAIを実際に展開してきた実務経験がある。これが大きな利点だとアンソロピックは説明しているんです。

室谷代表取締役

もう1つの理由も面白いんですよね。アクセンチュアはAI革命よりも前から存在する大規模な公開企業だから、アンソロピックと、その周辺の複雑なエコシステムから機能的により独立している、という点。

テキトー教師DotAI 認定講師

独立性の担保という発想です。評価する側が被評価者と同じ経済圏にどっぷり浸かっていたら、評価の意味が薄れてしまいますから。

研究機関と違って、コンサルの巨大企業は研究者コミュニティの人的ネットワークとは別の論理で動いている。その距離感を買った、という見方もできます。

室谷代表取締役

逆に言うと、モデルの内部構造を最先端レベルで理解している人が評価する、という形ではないわけですよね。実務の現場でどう使われ、どう悪用され得るかを知っている人が見る、という評価軸でもある。

テキトー教師DotAI 認定講師

そうなんですよ。ここを「研究機関じゃないなんておかしい」で終わらせると、この発表の設計意図が見えなくなってしまいます。

アンソロピックは、研究としての安全性と、運用としての安全性を別のレイヤーとして扱い始めた、と読めるわけです。

今後の評価者に安全性研究機関は入るのか——アンソロピックが示した次の一手

室谷代表取締役

では、今後どうなるのか。ここはアンソロピックが明言している部分がありますよね。

テキトー教師DotAI 認定講師

はい。アンソロピックは、今後数週間のうちにさらに多くの評価者を発表すると述べています。

加えて、METRやその他の非営利組織と、「自分たちの資金を使って組み込み型評価の要素を試験的に導入する」方法について協議中だと説明しているんです。

室谷代表取締役

なるほど、研究機関を排除したわけではなく、資金の出し方が違う形で並行して進める、ということですね。研究機関は自分たちの資金で、企業は企業の資金で。

この設計はけっこう考えられているなと思いました。

テキトー教師DotAI 認定講師

もう1つ、アンソロピック自身が認めている重要な論点があります。評価者がどこまで内部にアクセスできるのか、どうコミュニケーションを取るのかについて、まだ標準が存在しない、ということです。

そして、このアプローチは時間とともに進化していくと想定している、と。

室谷代表取締役

これは正直に言っているところが誠実でもあり、同時に「今はルールがない状態で走り出した」ということでもありますよね。

テキトー教師DotAI 認定講師

そして批判も出ています。「自主的な警察活動」に見えるという批判です。

AIをもっと責任ある形で作るべきだと訴える人たちの中には、アモデイCEOの構想を、AIモデルの不適切な挙動に対する説明責任を回避するための計画だと見る向きがある。

室谷代表取締役

それに対してアンソロピックは、評価者は「私たちの説明責任を減らすのではなく、より検証可能にするものだ。私たちのモデルの安全性は私たちの責任であり続ける」と主張している。

ここは原文の意味を正確に押さえておきたいところです。

テキトー教師DotAI 認定講師

ええ。責任の所在はアンソロピックに残る。

ただし、その責任の果たし方を第三者に検証可能な形で開く。この言い方は、今後のAIガバナンスの議論でもキーフレーズになっていくと思いますよ。

よくある質問

室谷代表取締役

ここからは、今回の発表についてよく聞かれそうな点を整理していきましょうか。まず「結局アンソロピックとアクセンチュアの提携で何が決まったのか」という質問です。

テキトー教師DotAI 認定講師

決まったのは、アクセンチュアのAI部門Facultyのスタッフがアンソロピック社内に入り、モデルの評価とレッドチーミング、アラインメント評価、モデルセーフガードのテストを行うこと。両社が5年間で少なくとも10億ドルを投資する見込みであること。

この2点が発表の中心です。それ以上の契約条件は、今回の発表では明らかにされていません。

室谷代表取締役

「なぜMETRのような安全性研究機関ではないのか」という点も、多くの人が気にしますよね。

テキトー教師DotAI 認定講師

アンソロピックが示した理由は、大企業や政府機関へのAI展開で培った実務経験と、AI革命以前から存在する大規模公開企業としての機能的な独立性です。あわせて、METRや他の非営利組織とは、自分たちの資金で組み込み型評価の要素を試験導入する形について協議中だと説明されています。

研究機関を締め出したわけではない、という読み方ができます。

室谷代表取締役

10億ドルの負担割合はどうなっているのか、というのも聞かれそうです。

テキトー教師DotAI 認定講師

そこは現時点では明らかにされていません。「両社が少なくとも10億ドルを投資する見込み」という表現までが発表されている内容です。

室谷代表取締役

評価者が入ることで、アンソロピックの安全性に対する責任が薄まるのではないか、という懸念もありますよね。

テキトー教師DotAI 認定講師

それに対するアンソロピックの立場は明確です。評価者は説明責任を減らすのではなく、より検証可能にするものだとしており、モデルの安全性は自社の責任であり続けるとしています。

室谷代表取締役

逆に、評価者の権限や情報アクセスの基準はもう決まっているんでしょうか。

テキトー教師DotAI 認定講師

いいえ。アンソロピック自身が、評価者のアクセスやコミュニケーションに関する標準はまだ存在しないと述べており、アプローチは時間とともに進化していくとしています。

ここは今後の続報を待つしかない部分です。

室谷代表取締役

最後に、日本の企業にとって関係があるのかどうか。

テキトー教師DotAI 認定講師

今回の発表に日本企業に関する言及はありません。ただし、選定理由として「大企業や政府機関へのAI展開の実務経験」が挙げられている点は、企業向けにAIを実装している側にとっては示唆があります。

安全性の評価が、研究室の中の作業ではなく、導入現場の知見と結びついていく流れになるかもしれない。そこは注目しておきたいところです。

室谷代表取締役

今回の一件、モデルの性能競争とは別のレイヤーで、AI業界のルールづくりが動き始めたサインなんだと思います。続報が出たら、また追いかけていきましょう。