ウォズニアック、マスク、そして著名な研究者らが「制御不能な」AIの停止を訴える

ニュース

この手紙は、 — この手紙は『ターミネーター』のような「機械の台頭」には言及していないが、そうだったかもしれない。
*写真：ワーナー・ブラザース・ピクチャーズ*

テクノロジー業界のリーダーたちが署名した新たな公開書簡は、「社会と人類に深刻なリスク」をもたらす可能性のある高度な人工知能アプリケーションの開発を6か月間停止するよう求めている。

Appleの共同創業者スティーブ・ウォズニアック氏、テスラのCEOイーロン・マスク氏、その他のテクノロジー企業幹部、そして多くのAI研究者がこの書簡に署名しました。書簡は、GPT-4よりも強力な「新興」AIへの警戒を促しています。ここで言及しているのはSiriではありません（少なくとも今のところは）。

公開書簡は、高度なAIを管理するために、より慎重な計画を一時停止するよう促している。

この書簡はFuture of Life Instituteのウェブサイトに掲載され、水曜日の時点で1,123以上の署名を集めました。書簡はAI開発の全面的な停止を求めているわけではなく、「新たな能力を備えた、予測不可能なブラックボックスモデルがますます巨大化している」ことだけを訴えています。

「我々は全てのAIラボに対し、GPT-4よりも強力なAIシステムの訓練を少なくとも6ヶ月間、直ちに停止するよう求める」と声明は述べている。さらに、この停止は「公開され、検証可能であるべき」と付け加えた。そして、もし迅速に停止が行われない場合、「政府は介入し、一時停止措置を講じるべきである」と付け加えた。

「制御不能なレース」

この書簡では、AI開発は制御不能で、リスクが高く、予測不可能であり、熾烈な競争によって開発者自身でさえ理解できない状況にあると述べ、2017年のベネフィシャルAIカンファレンスで策定されたアシロマAI原則を引用している。

広く支持されているアシロマAI原則に述べられているように、高度なAIは地球上の生命の歴史に大きな変化をもたらす可能性があり、相応の注意とリソースを投じて計画・管理されるべきです。しかし残念ながら、このレベルの計画と管理は実現されていません。ここ数ヶ月、AI研究室は、誰も――たとえその作成者でさえ――理解、予測、そして確実に制御できない、かつてないほど強力なデジタルマインドを開発・展開するという、制御不能な競争に巻き込まれているのです。

これをやる必要があるのでしょうか?

署名者たちは、AI開発を進める前に人々が自問すべきいくつかの疑問を提起し、書簡の中で、AIが単純で反復的な作業だけでなく、様々なレベルの様々な種類の仕事を奪う力を持っていることにも言及した。

機械が情報チャンネルをプロパガンダと虚偽で溢れさせるのを許すべきでしょうか？やりがいのある仕事も含め、あらゆる仕事を自動化すべきでしょうか？最終的に人間を凌駕し、賢く、時代遅れになり、人間に取って代わる可能性のある、非人間的な知性を開発すべきでしょうか？文明の支配力を失うリスクを冒すべきでしょうか？こうした決定は、選挙で選ばれていない技術指導者に委ねる べきではありません。強力なAIシステムは、その効果がプラスに働き、リスクが管理可能であると確信できる場合にのみ開発されるべきです。

AIボットChatGPTの開発者もそれを提案した

書簡では、ChatGPTの開発元であるOpenAIが以前、一時停止が必要になる可能性があると指摘していたと指摘している。

OpenAIは最近、汎用人工知能（AI）に関する声明で、「ある時点で、将来のシステムの訓練を開始する前に独立したレビューを受けることが重要になる可能性があり、また、最先端の取り組みにおいて、新しいモデルの作成に使用される計算能力の増加率を制限することに合意する必要がある」と述べています。私たちもこれに同意します。まさに今がその時です。

プラスの効果と管理可能なリスク

上で述べたプラスの効果と管理可能なリスクに加えて、一時停止の目的は次のように手紙にまとめられています。

AI の研究開発は、今日の強力で最先端のシステムをより正確、安全、解釈可能、透明性、堅牢性、整合性、信頼性、忠実性を備えたものにすることに再び重点を置く必要があります。

さらに、この書簡では、政策立案者と協力して開発された統治システムを通じた必要な安全策についても説明されている。

AI開発者は政策立案者と協力し、堅牢なAIガバナンスシステムの開発を飛躍的に加速させる必要があります。これには少なくとも、AIに特化した新たな有能な規制当局、高性能AIシステムと大規模な計算能力プールの監視と追跡、本物と合成AIの区別を支援し、モデルの漏洩を追跡するための来歴および透かしシステム、堅牢な監査および認証エコシステム、AIに起因する損害に対する責任、AIの技術的安全性研究への強力な公的資金、そしてAIが引き起こす劇的な経済的・政治的混乱（特に民主主義への影響）に対処するための十分な資源を備えた機関が含まれるべきです。

高度なAIについて検討し、計画を立てるために、立ち止まって考える必要があると思いますか？ぜひ下記にコメントをお寄せください。