share-knowledge’s diary

英語論文やニュース等で私が面白いと思ったものをアップしていきます。

ディープフェィク(Deepfake)

フェイシャルマッピング(facial mapping)とAIを使い、ある人物が実際には行動していない若しくは発言していないにも関わらず、行動若しくは発言しているかのようなリアルな偽動画を作り出せる技術が出てきています。このような動画をディープフェイクと呼んでおり、この名称は人工知能のディープラーニングに由来しています。

AIはある人の画像や音声データをもとに、その人の顔の表情、動き方、声、話し方を学習して模倣することができます。つまり、十分な画像および音声データがあれば、誰の偽動画でも作ることができるわけです。

米国では安全保障や選挙介入に使われることを懸念しているようで、ルビオ議員は、外国機関により人種主義的な発言や違法行為をする議員の偽動画が作成されたり、海外で米軍が民間人を殺戮するような偽動画を作成されることで、米国社会に不信感や混沌を作り出し、選挙への介入や社会の分断を作り出そうとするのではないかと指摘しています。実際、BuzzFeedは今年初めにオバマ前大統領がトランプ大統領を批判する偽動画を公表しています。ダートマス大学のFarid氏は誰もが簡単にリアルに見える偽動画を作り出すことができることが問題で、見たものを信じることが難しい時代に入ろうとしている。また逆に、真実の動画を疑うようにならざるを得ないと述べています。

これに対し、DARPAは既に偽の画像と動画を特定するための技術開発を進めていますが、現在のところ、特定するための時間はかかるため、その間に、偽画像や偽動画が広がってしまう懸念があります。

(参考)‘Deepfake’ Videos: a New Weapon in Disinformation Wars