NY市議会でAI公聴会が開催、何が審議された？
まとめ
NY市議会AI公聴会の要点
- 現地時間10月5日、マンハッタンでニューヨーク市議会がAI規制をめぐる公聴会を開催
- AI企業の幹部と、安全性への懸念を表明して各社を去った元研究者が同じ場で証言する異例な組み立て
- 市議会は10本の法案を審議する前提で、その材料として現場で何が起きているかを両側から聞き取る設計
- 議長のJulie Meninさんの要請で元研究者が先に証言し、そのあとで企業側が説明する順番
- 市レベルだけでなく、Zohran Mamdani市長の政権は公立の小中学校で生成AIを禁止、Kathy Hochul州知事も州全体のAI規制の枠組みを進行中で、市・州・連邦の複数レイヤーで議論が重なっている
- 大手各社がニューヨーク市で事業を広げており、市の条例が事実上の標準になる可能性があるため、市がどこまで踏み込むかが焦点
- 議題はAIの利用禁止ではなく、開発側の管理体制に踏み込む話
室谷代表取締役ABC7 Eyewitness Newsが報じたんですが、ニューヨーク市議会がAI規制をめぐる公聴会を開くことになりました。現地時間10月5日、マンハッタンで開催される予定です。
AI企業の幹部と、安全性への懸念を表明して各社を去った元研究者が同じ場で証言する、かなり異例な組み立てなんですよね。
AI企業の幹部と、安全性への懸念を表明して各社を去った元研究者が同じ場で証言する、かなり異例な組み立てなんですよね。
テキトー教師DotAI 認定講師単に企業を呼んで話を聞く会じゃないんですよ。市議会は10本の法案を審議する前提があって、その材料として「現場で何が起きているか」を両側から聞き取る設計になっています。
議長のJulie Meninさんの要請で元研究者が先に証言する、という順番も象徴的です。
議長のJulie Meninさんの要請で元研究者が先に証言する、という順番も象徴的です。
室谷代表取締役順番が大事なんですよね。まず懸念を出した人たちが話して、そのあとで企業側が説明する。
議事の流れそのものがメッセージになっているというか。
議事の流れそのものがメッセージになっているというか。
テキトー教師DotAI 認定講師しかもこれは市レベルの動きなんですけど、周辺も同時に動いています。Zohran Mamdani市長の政権はすでに公立の小中学校で生成AIを禁止していますし、Kathy Hochul州知事も州全体のAI規制の枠組みを進めている。
市・州・連邦と、複数のレイヤーで議論が重なっている状態です。
市・州・連邦と、複数のレイヤーで議論が重なっている状態です。
室谷代表取締役大手各社はニューヨーク市で事業をどんどん広げているので、市の条例が事実上の標準になる可能性もあるわけです。MYUUUでも海外の規制動向は毎週追いかけていますけど、今回は「市がどこまで踏み込むか」が焦点だと思っています。
テキトー教師DotAI 認定講師講座でも受講生さんから「規制されるとAIが使えなくなるの？」とよく聞かれるんですが、今回の議題は利用禁止ではなく、開発側の管理体制に踏み込む話なんですね。そこは分けて見ておきたいところです。
証言台に立ったのは誰？ 元Anthropic・OpenAI・Google研究者と大手4社の幹部
証言台に立つのは誰？ 元研究者・企業幹部・欠席の構図
元研究者
- Jacob Coxon（元Anthropic）
- Daniel Kokotajlo（元OpenAI）
- Alex Turner（元Google DeepMind）
- 3人とも技術開発の進め方に懸念を示して退社
- Menin議長の要請で出席
企業幹部
- Logan Graham（Anthropic）
- Morgan Dwyer（OpenAI）
- Shane Cahill（Meta）
- Alice Friend（Google）
- 大手4社が幹部を派遣
室谷代表取締役証言者は2つのグループに分かれています。まず午前に元研究者、そのあとに企業幹部という並びです。
整理するとこうです。
整理するとこうです。
| 区分 | 名前 | 所属 |
|---|---|---|
| 元研究者 | Jacob Coxon | 元Anthropic |
| 元研究者 | Daniel Kokotajlo | 元OpenAI |
| 元研究者 | Alex Turner | 元Google DeepMind |
| 企業幹部 | Logan Graham | Anthropic |
| 企業幹部 | Morgan Dwyer | OpenAI |
| 企業幹部 | Shane Cahill | Meta |
| 企業幹部 | Alice Friend |
テキトー教師DotAI 認定講師元研究者の3人は、いずれも技術の開発の進め方に懸念を表明して会社を去った人たちです。Coxonさんは、人工知能が人間には制御できないほど強力になり得ると警告したと報じられています。
この3人が市議会議長のJulie Meninさんの要請で出席する、というのが今回のポイントですね。
この3人が市議会議長のJulie Meninさんの要請で出席する、というのが今回のポイントですね。
室谷代表取締役企業側はAnthropic、OpenAI、Meta、Googleの4社が幹部を送り込む。つまり「安全性を訴えて辞めた人」と「いま開発を続けている会社」が、同じ日に同じ議場で話すわけです。
これは緊張感ありますよ。
これは緊張感ありますよ。
テキトー教師DotAI 認定講師で、ここが大事なんですけど、1社だけ応じていないんですね。市議会によると、イーロン・マスク氏のSpaceXAIは招待に応答しなかったとして、議会は会社の代表に証言を求める召喚状を発行しています。
Menin議長は従わせるための法的手段も検討していると示唆している。
Menin議長は従わせるための法的手段も検討していると示唆している。
室谷代表取締役欠席そのものが議題になるという。企業側のスタンスが問われる構図になっていますよね。
ただ、この欠席についての会社側の説明は、伝えられている範囲では明らかにされていません。
ただ、この欠席についての会社側の説明は、伝えられている範囲では明らかにされていません。
検討されている10本のAI規制法案——「キルスイッチ」義務化と最大2万5000ドルの罰金
まとめ
検討されている10本のAI規制法案のポイント
- 市議会が審議中：AIの周辺にセーフガードを設けるための10本の提案
- 「キルスイッチ」：AIシステムが、人間の操作者によってシャットダウンできる能力を持つことを求める要件
- 違反に対しては最大2万5000ドルの罰金が想定されている
- 誤解されやすい点：これは「AIを止められるようにしなさい」という話であり、「市がAIを止める」という話ではない
- 誰が、どの条件で、どの単位で止められるのかといった運用の詳細は現時点では明らかにされていない
- 企業からすると、停止可能性をどう設計に組み込むかは現実的なコストになる
- 10本という本数もポイント：単発の禁止ではなく、開発・運用・報告をまとめて縛るパッケージとして出てきている
テキトー教師DotAI 認定講師ここからが法案の中身です。市議会が審議しているのは、AIの周辺にセーフガードを設けるための10本の提案です。
特に名前が独り歩きしそうなのが「キルスイッチ」ですね。
特に名前が独り歩きしそうなのが「キルスイッチ」ですね。
室谷代表取締役AIシステムが、人間の操作者によってシャットダウンできる能力を持つことを求める、という要件です。違反に対しては最大2万5000ドルの罰金が想定されている。
テキトー教師DotAI 認定講師誤解されやすいんですけど、これは「AIを止められるようにしなさい」という話であって、「市がAIを止める」という話ではないんですよ。誰が、どの条件で、どの単位で止められるのか、といった運用の詳細は現時点では明らかにされていません。
室谷代表取締役企業からすると、停止可能性をどう設計に組み込むかは現実的なコストになる。ただ、AIが人間の制御を離れるリスクを考えると、要件として書かれる意味は大きいんですよね。
テキトー教師DotAI 認定講師身近なところでは、AIが利用者に警告を出したり動作を止めたりする仕組みはもう日常になっています。そういう「止める・止まる」の設計についてはChatGPT警告の種類と対処法でも整理しているので、あわせて読むと今回の論点が立体的に見えますよ。
室谷代表取締役あと、AIが何を保持し、何を記憶するかという設計も、監督の対象になっていくんだろうなと。そのへんの考え方はChatGPT長期記憶のすべてが参考になるはずです。
規制の議論は、機能の設計そのものに降りてくるんですよね。
規制の議論は、機能の設計そのものに降りてくるんですよね。
テキトー教師DotAI 認定講師そうそう。10本という本数もポイントで、単発の禁止ではなく、開発・運用・報告をまとめて縛るパッケージとして出てきている。
だから企業側も個別の反論ではなく、全体の設計に対して意見を述べざるを得ないわけです。
だから企業側も個別の反論ではなく、全体の設計に対して意見を述べざるを得ないわけです。
全国初となるAI内部通報者（ホイッスルブロワー）保護プログラムの狙い
室谷代表取締役今回いちばん面白いと思ったのがこれです。市議会は、全国初と説明される内部通報者保護プログラムを検討しています。
テキトー教師DotAI 認定講師対象になるのは市の職員、請負業者、そして下請け業者です。AI開発に関連する不正の疑いを報告した人を保護する、という設計ですね。
室谷代表取締役「全国初」というのが効いていて、州でも連邦でもまだ整っていない領域に、市が先に型を作りにいく。しかも対象を職員だけでなく請負・下請けまで広げているのが実務的です。
テキトー教師DotAI 認定講師これは単に通報者を守る話じゃないんですよ。AIの開発や導入は、委託先や再委託先まで含めたサプライチェーンで進みます。
そこで起きていることを、立場の弱い人が声を上げられるようにしないと、問題は表に出てこない。
そこで起きていることを、立場の弱い人が声を上げられるようにしないと、問題は表に出てこない。
室谷代表取締役企業側にとっては、内部の懸念が外に漏れる前提で動くことになる。だからこそ公聴会で企業幹部に説明責任が生まれるわけですよね。
テキトー教師DotAI 認定講師講座でも「AIの導入は現場の合意形成が9割」と伝えているんですが、今回の提案はまさにその現場の声を制度で拾おうとしている。報告の窓口や保護の具体的な範囲、通報先がどこになるかは、伝えられている内容からは明らかにされていません。
AIで失われた仕事を市が追跡・報告へ、雇用への影響をどう見るか
室谷代表取締役もうひとつの提案が、市がAIの労働力への影響を追跡して報告するというものです。削減された仕事、置き換えられた仕事を含めて把握する、と。
テキトー教師DotAI 認定講師これは効果測定の仕組みを作る話なんですよ。「AIで仕事がどう変わったか」を市が数字で持つ。
持っていなければ、政策の当たり外れが検証できないわけです。
持っていなければ、政策の当たり外れが検証できないわけです。
室谷代表取締役実務者としては、ここは素直に重要だと思います。MYUUUでも業務にAIを入れるとき、どの作業が減ってどこに人が回ったかを記録するようにしているんですけど、それを自治体単位でやろうという話ですからね。
テキトー教師DotAI 認定講師対象は市の労働力なので、民間全体の雇用を直接測るものではありません。ただ、削減・置き換えという言葉が明記されている点は重いです。
行政が「AIで仕事が失われる」ことを前提にした報告義務を設計している、ということですから。
行政が「AIで仕事が失われる」ことを前提にした報告義務を設計している、ということですから。
室谷代表取締役企業側の証言でも、この論点は突っ込まれるでしょうね。導入の効率化を語るだけでは足りない。
人に何が起きたかを説明する必要が出てくる。
人に何が起きたかを説明する必要が出てくる。
テキトー教師DotAI 認定講師AIの計算基盤や供給網がどう広がっているかはChatGPTとNVIDIAの関係を徹底解説で追っていますが、投資が積み上がるほど、その投資が雇用に何をもたらしたかという説明責任も大きくなります。規制は技術の外側の話ではなく、産業構造の話なんですよね。
安全性を訴えて退社した研究者たちは何を警告したのか
室谷代表取締役元研究者の証言の中身ですが、伝えられている範囲では、Coxonさんが「AIが人間には制御できないほど強力になり得る」と警告した、という点が中心です。
テキトー教師DotAI 認定講師重要なのは、3人とも懸念を表明したあとに会社を去っているという事実です。内部で議論したうえで、外で話すことを選んだ人たちが、市議会という公の場に呼ばれている。
室谷代表取締役企業の中で言っても届かなかった、というニュアンスですよね。だから市議会が議長の要請という形で先に話を聞く。
これは企業の説明より先に課題を可視化する手順です。
これは企業の説明より先に課題を可視化する手順です。
テキトー教師DotAI 認定講師ただし、公聴会で出た具体的な技術的主張の中身までは、伝えられている情報からは明らかにされていません。ここは続報を待つ部分です。
憶測で膨らませるのはよくない。
憶測で膨らませるのはよくない。
室谷代表取締役そうですね。ただ構図としてははっきりしています。
開発を続ける側と、危険性を訴えて離れた側、その両方から同じ日に説明を聞く。市議会が法案を審議する前に、これだけ対立軸を見える化したこと自体が意味を持ちます。
開発を続ける側と、危険性を訴えて離れた側、その両方から同じ日に説明を聞く。市議会が法案を審議する前に、これだけ対立軸を見える化したこと自体が意味を持ちます。
テキトー教師DotAI 認定講師教育の現場でも同じ構造があるんですよ。「便利だから使う」と「危ないから止める」の二項対立ではなく、どこに線を引くかを議論する。
今回の公聴会は、その線引きを行政が引き受け始めた事例だと思います。
今回の公聴会は、その線引きを行政が引き受け始めた事例だと思います。
よくある質問——キルスイッチとは？ 罰金は誰に科される？
室谷代表取締役ここで、今回の話で気になりそうな点を整理しておきます。まずキルスイッチとは何か、という点です。
テキトー教師DotAI 認定講師法案で検討されているのは、AIシステムが人間の操作者によってシャットダウンできる能力を持つことを求める要件です。違反には最大2万5000ドルの罰金が想定されています。
ただし、停止の判断を誰が行うのか、どの範囲のシステムが対象になるのかといった細かい定義は、伝えられている情報では明らかにされていません。
ただし、停止の判断を誰が行うのか、どの範囲のシステムが対象になるのかといった細かい定義は、伝えられている情報では明らかにされていません。
室谷代表取締役次に、その罰金は誰に科されるのか。これは重要ですよね。
テキトー教師DotAI 認定講師伝えられているのは「違反に対して最大2万5000ドル」という点までで、開発企業に科されるのか、運用する事業者や市の機関に科されるのかは明示されていません。ここは法案の全文が出てこないと確定できない部分です。
室谷代表取締役3つ目、公聴会を開けばすぐ規制が決まるのか、という点も気になります。
テキトー教師DotAI 認定講師公聴会は審議のための意見聴取であって、それ自体が可決ではありません。今回は10本の法案の検討の一環として、元研究者と企業幹部の証言を集める場です。
成立の時期や修正の見通しは現時点では明らかにされていません。
成立の時期や修正の見通しは現時点では明らかにされていません。
室谷代表取締役4つ目、応じなかった企業はどうなるのか。
テキトー教師DotAI 認定講師市議会によると、イーロン・マスク氏のSpaceXAIは招待に応答せず、議会が代表の証言を求める召喚状を発行しました。Menin議長は法的手段も検討していると示唆しています。
室谷代表取締役全体として見ると、市レベルの条例づくりが、AIの停止可能性、内部通報の保護、雇用への影響の追跡という3点セットで進んでいるのが今回の特徴なんですよね。MYUUUとしても、こうした制度設計の動きは実務に直結するので継続して追いかけます。
テキトー教師DotAI 認定講師受講生さんには「規制は敵ではなく、使い続けるためのルールづくり」と伝えています。今回の動きも、その最前線の事例として見ておく価値がありますよ。
