米国のテクノロジーやカルチャーにフォーカスしたオンラインメディアである「WIRED」によると、ニューハンプシャー州の一部の有権者に届いたバイデン大統領をなりすました自動音声通話が、シリコンバレーの人気スタートアップ企業ElevenLabsの技術によって作成された可能性が高いという研究結果が明らかになりました。この件に関する専門家のコメントや反応が注目を集めています。
有権者に対しディープフェイクによる自動音声通話が届く
ニューハンプシャー州の予備選挙に投票しないよう促す内容のバイデン大統領のディープフェイクの自動音声通話が一部の有権者に届いたことが報じられました。この電話が誰によって作成されたのかは明らかになっていませんが、音声専門家の2つのチームがElevenLabsという音声スタートアップ企業の技術が使われた可能性が高いと指摘しています。
ElevenLabsの持つ技術とは
ElevenLabsは、AIツールを用いてオーディオブックやビデオゲーム向けに音声を生成するサービスを提供しており、2024年1月には、AI音声技術の研究と製品開発の強化として8000万ドルの資金調達を実施し、高い評価を得ています。同社のツールは、有料サービスに登録することで、誰でも音声サンプルから声のクローンを作成することができるというものです。
同社の安全ポリシーでは、相手の声をクローンする前に許可を得ることが推奨されていますが、"公的な議論に貢献する政治的なスピーチ "を含む様々な非商業的な目的であれば、許可なしのクローンもOKとされていたといいます。
ElevenLabsの技術が使用された確率は84％
ElevenLabsのCEOは、「音声AIツールの悪用防止に尽力しているが、具体的な事件についてはコメントできない」とコメントしています。一方、セキュリティ企業Pindropは、ElevenLabsの技術を使用した可能性が高いと主張し、同社の音声検出器を用いて検証を行った結果、84％の確率でElevenLabsの技術が使用されたと結論付けているということです。
AI技術の進歩が悪用されることを防ぐために
この件は、AI技術の進歩により、ディープフェイクが政治的な目的で悪用される可能性について再び議論を巻き起こしています。今後、このような事件を防止するための対策が求められる中、ElevenLabsなどの企業は悪用防止に向けて積極的な取り組みが求められています。
ディープフェイクとは
ディープフェイクは、人工知能技術を用いて合成された、現実の映像や音声などのメディアコンテンツで、元の映像や音声とは異なる人物や内容でコンテンツを作ることができる技術です。この技術は、深層学習やニューラルネットワークを活用し、顔や声をリアルに操作することで、誰もが本物と信じ込むような偽造コンテンツを作り出します。ディープフェイクは、社会や政治に影響を与える可能性があり、偽情報やプライバシーの侵害、詐欺などの悪用が懸念されています。
参照/引用元：Researchers Say the Deepfake Biden Robocall Was Likely Made With Tools From AI Startup ElevenLabs
ディープフェイク問題はイタチごっこではあるけど、しっかり整備してほしいね。