カリフォルニア州知事、AI安全に関する主要法案を拒否権発動

ニュース

カリフォルニア州知事、AI安全法案を拒否権発動 — カリフォルニア州の法案は、AIの安全規制に一定の強制力を持たせようとした。これが最後の試みではないだろう。
*写真：Cult of Mac Deals*

カリフォルニア州のギャビン・ニューサム知事は日曜日、企業に複数の義務を課す物議を醸す人工知能（AI）安全規制法案1047号を、そのアプローチに異議を唱え、拒否権を発動した。これにより、アップルを含む同州の多くのAI企業は、この法案によって業務方法を変更したり、罰則に直面したりする必要がなくなる。

しかし、SB 1047に署名しなかったにもかかわらず、ニューズウォム氏はAIの安全規制の必要性を信じていると述べた。

ニューサム知事は日曜日、SB 1047法案を署名なしでカリフォルニア州上院に差し戻し、説明文書を添えて拒否権を発動した。この法案（最先端人工知能モデルのための安全かつセキュアなイノベーション法案）は、8月下旬にスコット・ウィーナー上院議員（民主党、サンフランシスコ選出）の主導で上院を通過し、ニューサム知事の机に届いた。もしニューサム知事の署名で成立していたら、SB 1047はApple Intelligenceの開発と実装に影響を与えていた可能性が高い。Appleの継続的なAI推進は、近日リリース予定のiOS 18.1およびmacOS Sequoia 15.1で初めて導入される。新しいAI機能を使用するには、iPhone 15 Pro以降、またはM1チップ以降を搭載したiPadおよびMacが必要となる。

SB 1047が否決されたにもかかわらず、新興のAI業界は規制が迫っていることを認識しています。しかし、今のところAppleはSB 1047やAIの安全規制全般についてコメントしていないようです。

拒否権のさまざまな理由

ニューサム知事は、法案が企業に課す負担やその範囲の広さなど、法案を拒否したさまざまな理由を挙げた。

SB 1047は善意に基づいているものの、AIシステムが高リスク環境に導入されるか、重要な意思決定に関与するか、機密データを利用するかといった点を考慮していません。むしろ、大規模システムに導入される限り、最も基本的な機能にさえ厳格な基準を適用しています。これは、AI技術がもたらす真の脅威から国民を守るための最善のアプローチではないと私は考えています。

さらに彼は、SB1047がイノベーションを阻害する可能性があると述べた。「より小型で特殊化されたモデルが、SB1047が標的とするモデルと同等、あるいはそれ以上に危険なものとして出現する可能性がある。その結果、公共の利益のために進歩を促進するイノベーションそのものが抑制される可能性がある」とニューサム氏は記した。

AIの規制は依然として必要

ニューサム知事は、将来の規制に違反する企業やその他の悪質な行為者への罰則を含め、ガードレールを整備する必要があると考えていると述べた。しかし、州は「AIシステムと能力に関する実証的な軌跡分析に基づかない解決策に甘んじるべきではない」とも考えている。

一方、SB 1047の筆頭著者であるワイナー氏は、X（旧Twitter）の投稿でこの拒否権発動を後退と呼んだ。

「この拒否権発動により、極めて強力な技術の開発を目指す企業が米国の政策立案者から拘束力のある制限を受けないという厄介な現実が浮き彫りになった。特に、議会がテクノロジー業界を意味のある形で規制することに依然として麻痺状態にあることを考慮すると、なおさらだ」と同氏は記した。

SB 1047に対する知事の拒否権発動に関する私の声明: pic.twitter.com/SsuBvV2mMI

— スコット・ウィーナー上院議員 (@Scott_Wiener) 2024 年 9 月 29 日

SB 1047 には何が含まれていましたか?

OpenAIなどテクノロジー業界の多くの反対にもかかわらず、この法案は超党派の幅広い支持を得た。Appleをはじめとするテクノロジー企業が遵守を約束したバイデン政権のAIガイドラインの後に成立したにもかかわらず、新法案にはより詳細な内容が盛り込まれ、強制力のある規定も含まれていた。つまり、ホワイトハウスのガイドラインには欠けている一定の強制力があったと言える。

SB 1047は高度なAIモデルの規制に焦点を当てており、Macなどのデバイスにおける将来のAI機能に影響を与える可能性があります。この法案は、AI開発者に対し、開発費が1億ドルを超える、あるいは一定量の計算能力を必要とする高度なAIモデルについて、安全性テストを実施することを義務付けました。また、企業は安全でないモデルを迅速にシャットダウンし、有害な改変から保護できることを示す必要があります。

さらに、この法案は、開発者が規則を遵守しない場合、州司法長官に訴訟を起こす権限を与えました。AIの危険性を指摘する内部告発者に対する保護措置が盛り込まれ、開発者に対し、安全対策を評価するために第三者監査人を雇用することを義務付けました。