Oligur

• ニュース

ドイツのボーフム大学とボーフム・マックス・プランク研究所の研究者らは、「Hey Siri」は「A city」「Hey Jerry」など他のウェイクワードによっても意図せず起動される可能性があることを明らかにした。

しかし、誤作動に関して弱点を持つ音声アシスタントはSiriだけではありません。この研究では、誤って様々なAIアシスタントを起動してしまう可能性のある1,000語以上の単語のリストがまとめられています。

Siriとその先：誤ったウェイクワード

英語、ドイツ語、中国語の単語は、いずれもスマートアシスタントを誤って起動させる可能性があることが判明しました。Siriに加え、AmazonのAlexa、Googleアシスタント、Microsoft Cortanaなどが含まれます。この研究では、「モダン・ファミリー」や「ゲーム・オブ・スローンズ」といったテレビ番組のセリフを聞くだけでも、誤って起動してしまう可能性があることが示されました。日常会話でも、誤って起動してしまう可能性があります。

他にも、Alexaが「unacceptable（受け入れられない）」や「election（選挙）」という言葉に反応したり、「OK, Google」ではなく「OK, cool（OK、クール）」と言ったり、MicrosoftのCortanaが「Montana（モンタナ）」という言葉に混乱したりといった、偶発的なウェイクワードの例が挙げられます。

「これらのデバイスは、人間の動作を理解できるように、意図的にある程度寛容なプログラムになっています。そのため、全く起動しないよりも、一度起動しすぎる可能性の方が高いのです」と、この研究に参加した研究者の一人、ドロテア・コロッサ教授は述べています。

偽のウェイクワードにおけるプライバシー問題

プライバシーの観点から見ると、誤作動によるウェイクワードの問題は、意図しない音声がスマートアシスタントメーカーに送信されてしまう可能性があることです。これらの音声スニペットは、問題となっている企業の従業員によって書き起こされ、読み上げられる可能性があります。システムが誤報を認識した場合でも、数秒の音声が送信される可能性があります。

昨年、 ガーディアン紙は、Appleの下請け業者がSiriの録音を聴取するために雇われていたという記事を掲載しました。Appleは、Siriの録音の一部を「グレーディング」目的で聴取していたと述べています。ガーディアン紙は、下請け業者が「機密の医療情報、麻薬取引、カップルの性行為の録音」を偶然聞いていたと主張しています。

プライバシーとエンジニアリングのトレードオフ

「プライバシーの観点から言えば、（AIアシスタントのウェイクワードに関する報告は）もちろん憂慮すべきものです。なぜなら、非常にプライベートな会話が見知らぬ人に漏れてしまうことがあるからです」と、このプロジェクトのもう一人の研究者であるトルステン・ホルツ氏は述べています。「しかし、エンジニアリングの観点から見ると、このアプローチは極めて理解しやすいものです。なぜなら、システムはそのようなデータを使ってのみ改善できるからです。メーカーはデータ保護と技術的な最適化のバランスを取る必要があります。」

Siriやその他のスマートアシスタントが、意図しない時に起動してしまうという問題に遭遇したことはありませんか？ぜひ下のコメント欄でお知らせください。