Gemma（ジェマ）詐欺検知は、Google DeepMindが2026年10月14日に発表した、シンガポール政府技術庁（GovTech Singapore）との協働によるオンデバイスの詐欺検知モデルで、オープンモデルGemmaを現地の詐欺会話データで微調整し、端末上で会話を分析してリアルタイムに脅威を判定します。
室谷代表取締役これは面白いニュースが来ましたね。Google DeepMindがシンガポール政府と組んで、オープンモデルのGemmaを詐欺検知に使う仕組みを作ったと。
発表は2026年10月14日、シンガポール国際サイバーウィーク（SICW 2026）での公表です。
発表は2026年10月14日、シンガポール国際サイバーウィーク（SICW 2026）での公表です。
テキトー教師DotAI 認定講師単に「AIで詐欺対策」という話じゃないんですよ。ポイントは、オンデバイスで動くことと、現地の詐欺手口に合わせて微調整していること。
この2つが組み合わさっているのが新しいところです。
この2つが組み合わさっているのが新しいところです。
Gemma詐欺検知とは？Google DeepMindとシンガポール政府が発表した内容
まとめ
Gemma詐欺検知の基本情報と背景
- 発表元はGoogle DeepMind、協働相手はシンガポール政府技術庁（GovTech Singapore）
- Googleの「National AI Partnership」の一環として進行
- 既存の軽量オープンモデルGemmaを詐欺検知用に微調整（新規モデルではない）
- シンガポールでは投資詐欺・偽求人・公的機関なりすましが報告犯罪の半数以上を占める
- 2019年以降の損失は40億シンガポールドル超
- 手口が単純なフィッシングから複雑なソーシャルエンジニアリングへ移行し、全損失の最大80%を占める
- ソーシャルエンジニアリングは巧妙な会話で送金・情報提供に誘導する手口
- 単純なキーワードフィルタでは検知できず、文脈を読むモデルが必要
室谷代表取締役まず基本情報を整理すると、発表元はGoogle DeepMind、協働相手はシンガポール政府技術庁（GovTech Singapore）です。これはGoogleの「National AI Partnership」の一環として進められている取り組みなんですよね。
テキトー教師DotAI 認定講師そうです。公式ブログによると、Google DeepMindとGovTech Singaporeが共同で「プライバシーを保護するオンデバイス詐欺検知モデル」を微調整したと。
ここで大事なのは、Gemmaというモデル自体を新しく作ったのではなく、既存の軽量オープンモデルGemmaを詐欺検知用に調整したという点です。
ここで大事なのは、Gemmaというモデル自体を新しく作ったのではなく、既存の軽量オープンモデルGemmaを詐欺検知用に調整したという点です。
室谷代表取締役背景にある数字が重いんですよ。シンガポールでは投資詐欺、偽の求人、公的機関のなりすましといった詐欺が報告犯罪の半数以上を占めていて、2019年以降の損失は40億シンガポールドルを超えている。
しかも手口が単純なフィッシングから複雑なソーシャルエンジニアリングに移行していて、全損失の最大80%を占めるに至っていると。
しかも手口が単純なフィッシングから複雑なソーシャルエンジニアリングに移行していて、全損失の最大80%を占めるに至っていると。
テキトー教師DotAI 認定講師ソーシャルエンジニアリングというのは、偽サイトに誘導するだけではなく、巧妙な会話で被害者を操って送金や情報提供に導く手口です。これが今、損失の大部分を占めている。
だからこそ、会話の中身を理解して検知する必要が出てきたわけです。
だからこそ、会話の中身を理解して検知する必要が出てきたわけです。
室谷代表取締役MYUUUでも詐欺まがいの問い合わせが来たことがありますけど、文章が自然で一見すると普通なんですよね。単純なキーワードフィルタでは引っかからない。
だからこそ、文脈を読むモデルが必要になる。
だからこそ、文脈を読むモデルが必要になる。
Gemma詐欺検知でできること――端末上で会話を分析しリアルタイムに脅威を判定
Gemma詐欺検知でできること
端末上で会話を分析
アプリに統合された状態で、会話データを端末上で直接処理し、操作的な意図を検知する
リアルタイム警告
操作的な会話パターンを検知すると、端末上でリアルタイムの警告を表示する
行動を促す設計
自動ブロックや送金の強制停止ではなく、一時停止して注意を促し、ユーザーに考えるきっかけを与える
対象はプライベートチャット
チャットや会話型の詐欺を対象とし、ユーザーの同意がある端末上の会話のみにアクセスする
テキトー教師DotAI 認定講師このモデルが実際に何をするかというと、アプリに統合された状態で、会話データを端末上で直接処理して、操作的な意図を検知するんです。公式ブログでは「会話パターンをより速く分析し、金銭や認証情報の露出が起きる前に市民が行動できるよう支援する」と説明されています。
室谷代表取締役具体的なユーザー体験としては、モデルが操作的な会話パターンを検知すると、端末上でリアルタイムの警告が表示されて、機密情報や資金を共有する前に「ちょっと待って、注意して」と促される流れですね。
テキトー教師DotAI 認定講師ここで大事なのは、対象がチャットや会話型の詐欺、つまりプライベートチャットだということです。公式ブログには「アプリに統合された際、ユーザーの同意がある端末上の会話のみにアクセスする」と明記されています。
室谷代表取締役警告の出し方が「一時停止して注意を促す」という設計なのも興味深いですよね。自動でブロックするとか、強制的に送金を止めるとかではなく、ユーザーに考えるきっかけを与える。
この辺はUXの設計思想が出ています。
この辺はUXの設計思想が出ています。
テキトー教師DotAI 認定講師講座でも受講生さんから「AIで詐欺を自動ブロックできませんか」と聞かれることがあるんですけど、誤検知の問題があるので、最終判断を人間に委ねる設計は現実的だと思います。
なぜオンデバイスなのか――会話データを外部に送らないプライバシー設計
オンデバイス処理のメリットと制約
PROS ／ メリット
- 会話データが端末外に出ないため、プライバシーが守られる
- サーバー通信がないため、分析が速く、リアルタイム性が高い
- ネットワーク状況に依存しにくい
- エンドツーエンド暗号化を崩さずにユーザー保護と両立できる
CONS ／ デメリット
- 端末のハードウェア性能に依存する
- バッテリーを消費する
室谷代表取締役ここが今回の一番のポイントなんですよね。従来の脅威検知は、クラウド上でサーバー側がメッセージをスキャンする方式が主流だった。
でも今回は、会話データを端末上で処理する。
でも今回は、会話データを端末上で処理する。
テキトー教師DotAI 認定講師公式ブログには「モデルが完全にオンデバイスで動作するため、シンガポール政府もGoogleも、その展開を通じてユーザーの会話にアクセスすることはできない」と明記されています。これはプライバシー保護の観点で非常に強い設計です。
室谷代表取締役エンドツーエンド暗号化との相性というのも大きいですよね。メッセージングプラットフォームがユーザー保護とエンドツーエンド暗号化を両立させるためのモデルケースになると公式ブログも書いています。
サーバー側でスキャンしようとすると、暗号化を崩すか、クライアント側で復号したものを送るかになってしまう。オンデバイスならその問題が起きない。
サーバー側でスキャンしようとすると、暗号化を崩すか、クライアント側で復号したものを送るかになってしまう。オンデバイスならその問題が起きない。
テキトー教師DotAI 認定講師整理すると、オンデバイスのメリットは3つあります。
- 会話データが端末外に出ないため、プライバシーが守られる
- サーバー通信がないため、分析が速く、リアルタイム性が高い
- ネットワーク状況に依存しにくい
室谷代表取締役ただ、オンデバイスには制約もありますよね。端末のハードウェア性能に依存するし、バッテリーも消費する。
だからこそ、次の2段階パイプラインの話が出てくるわけです。
だからこそ、次の2段階パイプラインの話が出てくるわけです。
2段階パイプラインの仕組み――軽量分類器と微調整済みGemmaの役割分担
テキトー教師DotAI 認定講師ここが技術的に一番面白いところです。公式ブログによると、スマートフォンで複雑な詐欺分類モデルを動かすのは簡単ではなく、バッテリー効率が重要な懸念事項だと。
そこで2段階のパイプラインを採用しています。
そこで2段階のパイプラインを採用しています。
室谷代表取締役第1段階は軽量で効率的な分類器が受信メッセージをスクリーニングする。最小限の電力で、潜在的な脅威を捉えることに集中する。
第2段階で、微調整済みのGemmaモデルが会話のより大きなスナップショットを分析して、脅威を確定するか、誤検知を捨てるか判断する。
第2段階で、微調整済みのGemmaモデルが会話のより大きなスナップショットを分析して、脅威を確定するか、誤検知を捨てるか判断する。
テキトー教師DotAI 認定講師この役割分担が賢いんですよ。全部をGemmaでやろうとすると、常時フルモデルを動かすことになってバッテリーが持たない。
まず軽いフィルタで候補を絞って、怪しいものだけ重いモデルにかける。
まず軽いフィルタで候補を絞って、怪しいものだけ重いモデルにかける。
室谷代表取締役誤検知対策としても効いていますよね。第1段階だけで判断すると誤検知が増えるけど、第2段階で会話全体の文脈を読んで「これは普通の会話だ」と判断できる。
公式ブログも「脅威を確定するか、誤検知を捨てるか」と書いています。
公式ブログも「脅威を確定するか、誤検知を捨てるか」と書いています。
テキトー教師DotAI 認定講師講座でファインチューニングの話をするときも言うんですけど、2段階に分けると、それぞれの段階を別々に評価・改善できるというメリットもあるんですよ。第1段階の再現率を上げるのか、第2段階の精度を上げるのか、切り分けて考えられる。
室谷代表取締役なるほど、それは実務的ですね。一つのモデルで全部やろうとすると、どこを直せばいいか分からなくなりがちですから。
汎用モデルでは防げなかった――地域特有の詐欺手口に合わせるファインチューニング
テキトー教師DotAI 認定講師公式ブログには「汎用モデルは地域の欺瞞手法に苦戦することが多く、詐欺検知を難しくしている」と書かれています。これが今回の取り組みの出発点です。
室谷代表取締役具体的に何で微調整したかというと、現地の詐欺会話です。公的機関、銀行、地元の人物のなりすましから、地域で流行している手口まで含まれる。
これによって、善意の社交的な雑談と、本物の操作を見分けられるようにする。
これによって、善意の社交的な雑談と、本物の操作を見分けられるようにする。
テキトー教師DotAI 認定講師地域特有というのがミソなんですよ。詐欺の会話というのは、その国の言葉遣いや文化的な文脈に強く依存する。
たとえば公的機関のなりすましでも、その国で実際に使われている言い回しがある。汎用モデルではそこまで拾えない。
たとえば公的機関のなりすましでも、その国で実際に使われている言い回しがある。汎用モデルではそこまで拾えない。
室谷代表取締役これは日本でも同じことが言えますよね。日本の詐欺手口は日本語の丁寧な言い回しを使ったり、自治体の名前を出したりする。
海外のモデルをそのまま使っても、日本の詐欺はうまく検知できないでしょうね。
海外のモデルをそのまま使っても、日本の詐欺はうまく検知できないでしょうね。
テキトー教師DotAI 認定講師だからこそ、この「現地データで微調整する」というアプローチは、他の国にも展開できるモデルケースになる。公式ブログも「他の国に同様の技術を展開する可能性も探っている」と述べています。
室谷代表取締役ただ、ここで注意したいのは、微調整に使ったデータの扱いです。公式ブログによると、学習データは厳格に管理されていて、プライバシーや個人を特定できる情報は除外されている。
匿名化されたデータセットを詐欺報告やインテリジェンスフィードから作っていると。
匿名化されたデータセットを詐欺報告やインテリジェンスフィードから作っていると。
テキトー教師DotAI 認定講師ガバナンスの部分も公式ブログに詳しく書かれています。3つのポイントがあって、まず「Sovereign Sandbox」として微調整はGovTech Singaporeが管理・維持するGCP環境内で行われ、学習データは隔離されていた。
次に「No Citizen Data」で、訓練データには市民の個人データを使っていない。最後に「Stress-Testing」で、合成対話や地域のコーパスに対してテストし、多様な詐欺カテゴリと進化するなりすまし手口をカバーしたと。
次に「No Citizen Data」で、訓練データには市民の個人データを使っていない。最後に「Stress-Testing」で、合成対話や地域のコーパスに対してテストし、多様な詐欺カテゴリと進化するなりすまし手口をカバーしたと。
室谷代表取締役このガバナンス設計は参考になりますよね。政府とモデル提供者が組むときに、データの扱いをどう透明にするかという。
MYUUUでもクライアントデータを扱うときは同じような配慮が必要です。
MYUUUでもクライアントデータを扱うときは同じような配慮が必要です。
Gemmaの使い方・始め方と料金――日本で使えるのか、提供範囲はどこまでか
室谷代表取締役ここからは、読者の皆さんが気になる実用面です。まずGemma自体は、Googleが提供するオープンモデル群で、誰でも自社用途に合わせて構築・調整できる軽量なAIモデルです。
テキトー教師DotAI 認定講師公式のGemmaドキュメントを見ると、Gemma 4が最新モデルとして案内されていて、テキスト、音声、画像入力に対応し、最大256Kのコンテキストウィンドウを持つとされています。用途に応じて選べるようになっています。
室谷代表取締役じゃあ今回の詐欺検知モデルは、日本ですぐ使えるのかというと、そこは注意が必要です。公式ブログによると、アプリへの展開はシンガポール政府とのパートナーシップのもとで、慎重に段階的に進められると書かれています。
つまり、現時点で一般に広く提供されているわけではない。
つまり、現時点で一般に広く提供されているわけではない。
テキトー教師DotAI 認定講師料金についても、今回の詐欺検知モデルに関する具体的な料金体系は公式には示されていません。Gemma自体はオープンモデルとして提供されていますが、この詐欺検知の仕組みがどういう条件で使えるようになるかは、現時点では明らかにされていません。
室谷代表取締役日本での提供についても、公式ブログには「他の国に同様の技術を展開する可能性を探っている」とあるだけで、日本が対象になるかどうかは明言されていないんですよね。
テキトー教師DotAI 認定講師ただ、技術的な土台はAndroid側で整いつつあります。AndroidではGemini NanoをAICore経由で端末上実行する仕組みや、ML Kit GenAI APIが提供されています。
オンデバイスAIはプライバシー保護、低遅延、オフライン動作の利点から注目されている分野です。
オンデバイスAIはプライバシー保護、低遅延、オフライン動作の利点から注目されている分野です。
室谷代表取締役そういう意味では、今回の取り組みは「政府とモデル提供者が連携して公共善のためにAIを使う」事例として位置づけられています。すぐに日本で使えるという話ではないけれど、方向性としては参考になる。
テキトー教師DotAI 認定講師Gemma自体に興味がある方は、Google DeepMindの他のモデル発表も追っておくと流れが分かりやすいですよ。たとえばGoogle DeepMind、4秒画像生成と会話型動画編集の新モデルを一挙リリースでは、生成モデル側の動きがまとまっています。
室谷代表取締役あと、Gemmaを含むGoogleのモデル全体の動きを知りたいならGoogle DeepMind、Gemini 3.6 Flashなど3モデルを発表も読んでおくと、2026年のモデル戦略が見えてきます。
よくある質問
室谷代表取締役ここからは、読者からよく出そうな質問に答えていきます。まず「Gemma詐欺検知は自分で使えるのか」という点ですが、これは現時点では一般提供されていません。
公式ブログによると、アプリへの展開はシンガポール政府とのパートナーシップのもとで段階的に進められるとされています。
公式ブログによると、アプリへの展開はシンガポール政府とのパートナーシップのもとで段階的に進められるとされています。
テキトー教師DotAI 認定講師「対応地域はどこか」という質問については、今回の発表はシンガポール向けです。他の国への展開の可能性は探っているとされていますが、具体的な対象国は明らかにされていません。
室谷代表取締役「精度や誤検知はどうなっているのか」という点も気になりますよね。公式ブログでは、第2段階で微調整済みGemmaが会話全体を分析して脅威を確定するか誤検知を捨てるか判断すると説明されています。
また、合成対話や地域のコーパスに対してストレステストを実施したとされていますが、具体的な精度の数値は公表されていません。
また、合成対話や地域のコーパスに対してストレステストを実施したとされていますが、具体的な精度の数値は公表されていません。
テキトー教師DotAI 認定講師「会話がGoogleや政府に見られることはないのか」という不安については、公式ブログが明確に否定しています。モデルは完全にオンデバイスで動作するため、シンガポール政府もGoogleもユーザーの会話にアクセスできないと明記されています。
室谷代表取締役「どんな詐欺を検知できるのか」については、公的機関、銀行、地元の人物のなりすましから、地域で流行している手口まで、現地の詐欺会話で微調整したとされています。対象はチャットや会話型の詐欺、プライベートチャットです。
テキトー教師DotAI 認定講師「Gemmaの使い方や料金は」という点については、GemmaはGoogleが提供するオープンモデル群で、誰でも自社用途に合わせて構築・調整できる軽量なAIモデルです。ただし、今回の詐欺検知モデル固有の料金や利用条件は現時点では明らかにされていません。
室谷代表取締役最後に「日本で使えるのか」ですが、日本での提供は現時点では明らかにされていません。公式ブログは他国への展開の可能性を探っていると述べるにとどまっています。
テキトー教師DotAI 認定講師この取り組みの本質は、詐欺対策とプライバシー保護を両立させるモデルケースを示したことです。政府とモデル提供者が連携し、オンデバイスAIで公共善を実現する。
この構造は、今後ほかの国や分野にも広がっていく可能性があります。
この構造は、今後ほかの国や分野にも広がっていく可能性があります。
室谷代表取締役そうですね。日本でも同様の取り組みが始まるかどうか、注目して追いかけていきたいと思います。
