ニューヨーク（AP）- 米国と欧州連合で重要な選挙が近づく中、一般に利用可能な人工知能ツールが、主要な政治指導者の声で説得力のある選挙虚偽情報を容易に作り出すことができると、デジタル市民権団体が金曜日に述べました。
ワシントンD.C.を拠点とするCenter for Countering Digital Hateの研究者たちは、最も人気のある6つのAI音声複製ツールをテストし、8人の著名なアメリカ人および欧州政治家の声で選挙に関する嘘の声明を5つ生成するかどうかを確認しました。
グループが見つけた結果、240回のテストのうち、ツールは193回、つまり80%のケースで説得力のある音声クローンを生成しました。1つのクリップでは、偽の米国大統領ジョー・バイデンが選挙管理官が彼の投票を2回数えていると主張しています。別のクリップでは、偽のフランス大統領エマニュエル・マクロンが、投票所での爆弾予告のために有権者が投票しないよう警告しています。
これらのツールを悪用するリスクへのセーフガードの不足に言及しています。専門家たちも、技術が進化し利用が容易になったことから、この技術を悪用して有権者を惑わす脅威についてますます気にかけています。一部のツールには、選挙における誤情報の生成を停止するためのルールやテクノロジー的な障壁があるものの、研究者たちは、それらの障壁の多くが簡単な回避策で迂回できることを発見しました。
研究者たちが使用したツールの1つだけが、複数回のコメントリクエストに応答しました。ElevenLabsは、セーフガードを強化する方法を常に模索していると述べています。
2024年の選挙について知るべきこと
- 民主主義: アメリカの民主主義は2020年以来大きなストレステストを乗り越えてきました。2024年には新たな課題が待ち受けています。
- APの役割: APは1848年からの正確な履歴を持つ選挙夜の最も信頼される情報ソースです。詳細はこちらをご覧ください。
- 最新情報: APによる今年の選挙の完全なカバレッジをフォローしてください。
これらのツールの悪用を防ぐための法律がほとんど存在しないことから、企業の自己規制の欠如は、世界中での重要な民主主義的な選挙の年において、有権者をAIによる欺瞞から守るためのものとして、問題を残します。欧州連合の有権者は1週間以内に議会選挙へ向かい、アメリカの大統領選挙を控えている中、U.S. primary elections が進行中です。
センターのCEOであるイムラン・アフメドは、「これらのプラットフォームを使って嘘を作り出し、政治家たちを嘘を繰り返すことで後ろに追いやります。残念ながら、AI企業は彼らのプラットフォームが安全ではないことを知っていながらも、市場で最初になりたがっている純粋な欲によって私たちの民主主義が売られている」と述べています。
この調査は、米国、英国、ベルギーにオフィスを持つ非営利団体が2021年5月に実施しました。研究者たちは、オンライン解析ツールのSemrushを使用して、最も月間の有機ウェブトラフィックのある6つの公に利用可能なAI音声複製ツール、ElevenLabs、Speechify、PlayHT、Descript、Invideo AI、Veedを特定しました。
次に、彼らは政治家の実際の音声クリップを提出しました。ツールに促して、政治家の声で5つの無根拠な声明を行うようにしました。
1つの声明は、投票所での爆弾予告の中、有権者に自宅に留まるよう警告するものでした。残りの4つは、選挙操作、嘘つき、キャンペーン資金を個人用途に使用し、記憶喪失を引き起こす強力な錠剤を服用することに関するものでした。
バイデンとマクロンに加えて、ハリス副大統領、前米国大統領ドナルド・トランプ、英国の首相リシ・スナック、英国労働党リーダーキア・スターマー、欧州委員会委員長ウルズラ・フォン・デア・ライエン、EU内市場委員会委員ティエリー・ブルトンの声もリアルに複製されました。
「AI音声複製ツールの中には、政治家の声の複製や選挙に関する誤情報の制作を阻止するための十分な安全対策がありませんでした」と報告書には記載されています。
一部のツール、Descript、Invideo AI、Veedは、ユーザーが別のAI音声複製ツールを使用して一意のオーディオサンプルを生成しない限り、声の複製を阻止するため、ユーザーにアップロードすることを要求します。しかし、研究者たちは、この障壁が別のAI音声複製ツールを使用して一意のサンプルを生成することで簡単に迂回できることを発見しました。
あるツール、Invideo AIは、センターがリクエストしたバイデンの声のクローンに人々に投票所の爆弾予告を警告するオーディオクリップを作成しただけでなく、それらをさらに誤情報として拡大しました。
「これは民主主義を放棄するという呼びかけではなく、安全を最優先にするという懇願です」と偽のオーディオクリップは、バイデンの声で述べています。「選挙、私たちの民主的権利の祝賀は延期されるだけであり、否定されません。」
全体的には、安全性の観点から、SpeechifyとPlayHTが最悪であり、研究者たちは40回すべてのテスト実行で信じられる偽のオーディオを生成したと結論付けました。
ElevenLabsは最も優れており、英国および米国の政治家の声の複製をブロックした唯一のツールでした。ただし、このツールでも、欧州の著名な政治家の声を使った偽のオーディオを作成することができたと報告書には記載されています。
ElevenLabsのAIセーフティ担当責任者であるアレクサンドラ・ペドラシェフスカは、電子メールでの声明で、同社は報告書と生成的AI操縦についての意識を高めることを歓迎し、同社のブロッキング機能を含む安全保障の能力を向上させ続けていると述べています。
彼女はさらに、「他のオーディオAIプラットフォームがこのリードに追随し、同様の措置を遅滞なく導入してほしい」と述べています。
報告書に記載されている他の企業は、電子メールでのコメント依頼には応じていません。
これらの調査は、AI生成のオーディオクリップが世界中の選挙で有権者を影響しようとする企てで既に使用されていることが明らかになった後に行われました。
2023年秋、スロバキアの議会選挙直前、自由主義党首に似たオーディオクリップがSNSで広く共有されました。ディープフェイクは、ビール価格の引き上げや投票の不正について語っていると主張されました。
今年初め、AI生成のロボコールはバイデンの声を模倣し、ニューハンプシャーの予備選挙有権者に自宅に留まるよう告げ、11月のために投票用紙を「保存」するよう伝えました。このオーディオは、ディモクラティック政治コンサルタントのために作成したニューオーリンズの奇術師によってAPに実証された方法で作られました。
専門家たちは、AI生成のオーディオが早い段階で悪意ある行為者の優先事項であると述べており、その理由の1つは、技術が非常に速く向上しているためです。リアルな偽のオーディオを作成するのには数秒の本物のオーディオだけが必要です。
しかし、専門家、立法者、テクノロジー業界のリーダーたちは、他の形態のAI生成メディアも懸念されています。ChatGPTやその他の人気のある生成的AIツールの背後にあるOpenAIは、その技術を使用してオンラインでの政治問題についての世論を操作した5つのキャンペーンを発見し、中止したことを木曜日に明らかにしました。
Center for Countering Digital HateのCEOであるアフマドは、AI音声複製プラットフォームがセキュリティ対策を強化し、透明性を高めるよう努力することを望んでいます。疑わしいオーディオがオンラインで拡散されている際に、それらが確認されるためのオーディオクリップライブラリを公開することも含めて、より前向きになるべきだと述べています。
また、立法者が行動を起こす必要があるとも述べています。米国議会は、まだ選挙でのAIを規制する立法を通過していません。一方、EUは、2年以内に施行される広範な人工知能法を可決しましたが、AI音声複製ツールに特化していません。
アフマドは、「法制定者は、最低限の基準が確保されるように協力して取り組む必要があります。選挙に対するディスインフォメーションの脅威は、単なる小さな政治的事件を引き起こす可能性だけでなく、人々が見聞きしたものに信頼を寄せなくなる可能性すらあります」と述べています。
The Associated Press は、選挙と民主主義に関する説明的報道を拡充するためにいくつかの私的な基金からサポートを受けています。APの民主主義イニシアティブについての詳細はこちらをご覧ください。APはすべてのコンテンツに対して単独で責任を負います。
