人工知能（AI）を使い、「本物と見分けがつかないフェイク」を簡単に生み出せる時代に突入した。こうした「偽物」は、AIの中でもディープラーニング（深層学習）という技術を用いて作られるため、「ディープフェイク」と呼ばれる。まずは、この技術について書かれた次の文章を読んでほしい。

　実は、上記の文章はAIによって作られた「フェイク」なのだ。利用したのは「ぷれあい（PlayAI）」というサイト(https://playai.nu/)。この文章を作成するのに筆者が入力した文章は、冒頭の1パラグラフだけ（赤字）。残り（青字）はAIが勝手にネット情報などを集め、続きを書いてくれた。大学生が一夜漬けで作成したリポートより、よく書けているのではないだろうか。

　AIが作れるのは文章だけではない。「偽物の動画」まで簡単に作ってしまうのだ。2018年4月、米国のコメディアン、ジョーダン・ピール氏がバラク・オバマ元米大統領になりすました動画をYouTubeで公開。全米のニュースで何度もとり上げられた。

　AIはカメラで読み取ったピール氏の表情や言葉を元に、あたかもオバマ氏が演説中のような映像を合成したのだ。デジタル技術が作り出す「偽物」が、簡単には見抜けないレベルに達したことを人々に印象付けた「事件」だった。

オバマ元米大統領になりすましたジョーダン・ピール氏（右）
（出所）YouTube

　もちろん、これまでもフェイク技術が全くなかったわけではない。フィルムカメラの時代から合成写真を作る技術はあったし、最近は一般の人もスマートフォンの編集アプリを使ってデジタル写真を加工できる。しかし、人間が書いたような文章を生み出したり、動画の中の顔や表情を合成したりするのは簡単ではなかった。

「いたちごっこ」に着目したGAN

　ここ数年でどんなブレイクスルーが起きたのか。カギとなる技術を2つ紹介しておこう。1つ目は「敵対的生成ネットワーク（Generative Adversarial Network=GAN）」と呼ばれる技術。2014年にグーグルの研究者イアン・グッドフェロー氏が提案した。

　フェイクを見分ける技術が進化すると、必ずその裏をかく新技術が登場する。この「いたちごっこ」に着目し、「だます側」と「見破る側」のシステムを競わせることで技術を高度化する手法を開発したのだ。

　例えば従来の技術では、動画の中の人物の「目を見る」と真偽を判定しやすいとされてきた。GANはこうした情報を逆手に取り、より本物らしい目の動きが合成できるよう「学習」して進化していくわけだ。

　2つ目の画期的な技術は、主に言語に用いられる「Transformer」だ。文章の自動生成や、外国語の自動翻訳などに応用されている。こちらもグーグルの研究者、アシシュ・ヴァスワニ氏のグループが2017年12月に提案した。

　この技術の特徴は、情報処理の仕方にある。例えば、従来はコンピューターが文章を処理する際、文頭から文末へと順に読んでいくのが一般的だった。一方、Transformerはこうした多数の文章データを同時に並列処理する。このため、AIに文章などを「学習」させる効率が飛躍的に高まったのだ。「人間のような自然な言葉を操れるAI」の登場も間近に迫っているという。

ディープフェイク「事件」、追いつかない規制

　こうした技術革新は、わたしたちの生活の質向上に役立つ半面、深刻な社会問題も引き起こす。

　例えば、英BBCは2021年3月、「米国でチアリーダーの母親が、娘のライバルが裸で喫煙・飲酒をしているフェイク動画をコーチに送りつけ、逮捕・起訴された」と報じている。この母親は特にIT技術に詳しいわけでもない普通の女性。だれでもフェイク動画を作れるようになった時代が、強く意識された事件だった。

　音声のディープフェイクでも、世間を騒がせる事件が起こった。YouTube上で米国のラッパー、Jay-Z氏が、ラップのリズムで朗読する「ハムレット」。だが、その音声はディープフェイクで作られたもの。Jay-Z氏は裁判所に対し、「自分に似た」音声が使われる一連の動画の削除を申し立てた。

　しかし、「ボーカルスタイルに著作権はない」との理由から、その申し立ては棄却された。現状、歌手にとって本意ではないフェイク音声が流布しても、何も手を打つことはできない。

　文章のディープフェイクでも驚きの事件が起こった。文章作成AI「GPT-3」が作成した文章がブログサイト「Hacker News」で、多数の「人間」が書いた文章を押しのけてランキング１位を獲得したのだ。

ブログサイトでランキング1位になったAI作成記事（導入部を抜粋）
（注）翻訳は翻訳ソフトDeepLによるもので人間は介在していない。
（出所）Hacker News

　このAIは特定人物の文体を真似たわけではないため、ディープフェイクとまで言えないかもしれない。しかし研究者によると、既にこのAIを使い、狙った通りの文体を作ったり、偏見や特定の宗教的価値観など志向性を持った文章を書かせたりは容易だという。

　人間が文体・指向性を反映させるとはいえ、AIは毎回異なる文章を作成する。つまり、その文章が全くの事実誤認だったとしても責任をとる「人」はいないのだ。

　今後、パソコンやスマホを使い、だれでも簡単にディープフェイクを作成できるようになり、こうした事件は確実に増えていくだろう。さらには、偽造した映像・音声をソーシャルメディアなどに流し、人々を扇動する独裁者が登場する危険もある。

　このような状況で、中国はディープフェイク技術を使った映像・音声の制作や公表の制限に踏み切った。米国のカリフォルニア、テキサス両州は政治目的のディープフェイク作成を禁止した。

　しかし日本を含むほとんどの国では、「表現の自由」との兼ね合いもあり、ディープフェイクの利用制限には慎重だ。著作権法違反や名誉毀損などに絡めて間接的に規制しているに過ぎない。つまり、各国の規制が技術進歩のスピードに追いついていないのが実情だ。

　文章や動画でさえ簡単に捏造（ねつぞう）できるようになれば、何を「本物」だと信じれば良いのだろう。放置すれば、社会に疑心暗鬼が蔓延することは間違いない。既にその兆候は現れている。

　米国では最近、ホワイトハウスがツイッターに投稿したバイデン大統領夫妻とカーター元大統領夫妻の写真が「フェイクではないか」と話題になった。

　実際は本物なのだが、広角レンズの影響か、カーター氏（下記写真の左から2人目）の靴は大きく、カーター夫妻は非常に小さく見える。これが「フェイク疑惑」をもたらしたのだ。こうした公式写真でさえ疑いの目で見られる社会では、分断や扇動が起こりやすくなることは容易に想像できる。

フェイクと疑われた写真
（出所）Adam Schultz / The White House, via Associated Press

「悪貨が良貨を駆逐」を回避するには？

　大量に生み出されるフェイクが社会を蝕む前に、われわれはどのように備えておくべきだろうか。まず必要なのは、「本物」にお墨付きを与える仕組みの構築だ。

　例えば、フェイクニュースが問題になった報道の世界では、「ファクトチェック機関」の設立が相次いでいる。

　報道の内容や政治家の発言、ソーシャルメディアで流れたうわさなどを第三者機関が検証し、真実性を評価・発表する試みだ。フェイクを見破る技術についても、こうした機関が開発に参加し、「悪貨が良貨を駆逐する」事態を避けるべきだろう。

　「本物」が改ざんされるのを防ぐ技術の普及も必要だ。今でもデジタルデータに電子署名やタイムスタンプを付与する技術はあるが、一般の人が手軽に使えるとは言い難い。この分野には、ブロックチェーン（分散型台帳）技術の応用も期待される。

　一方で、われわれ一人ひとりも新しいフェイク技術の動向を注視し、メディアリテラシーを高める努力を怠ってはならない。ソーシャルメディアの普及に伴い、フェイクに引っ掛かると、次には自分が偽情報を広める「加害者」になってしまうかもしれないからだ。

　歴史を振り返れば、15世紀にグーテンベルクの活版印刷が登場し、「マスメディア」が生まれた。以来、情報発信はどの時代も「フェイク」との戦いだった。

　新聞、写真、映画、ラジオ、テレビ、インターネットと、新しいメディアが生まれるたびに巧妙なフェイクが登場。その度に社会が混乱し、その反省から情報の信頼性を取り戻すと、新たなメディアが...。という繰り返しだった。われわれも今、こうした変革期に生きているのだという自覚を持つ必要があるだろう。

活版印刷に利用する活字
（出所）photoAC