たまにネット上でみかける、AVに芸能人の顔だけあとで貼っつけた動画って「ディープフェイク」って言うんですね。知りませんでした。

あれを作って散布した人が逮捕されたとNHKが報じていました。

「ディープフェイク」技術でアダルト動画作成か 初検挙

2020年10月2日 13時16分IT・ネット

AIを使って本物と見分けがつかないほど巧妙な偽の動画を作成する「ディープフェイク」と呼ばれる技術で、女性芸能人の偽のアダルト動画を作成し、インターネットで配信したとして、男2人が名誉毀損などの疑いで警視庁に逮捕されました。

逮捕されたのは熊本市の大学生、林田拓海容疑者（21）と、兵庫県三田市のシステムエンジニア、大槻隆信容疑者（47）です。

警視庁によりますと、2人は去年12月からことし7月にかけて、アダルト動画の出演者の顔を合わせて4人の女性芸能人の顔と入れ替えた偽の動画を作成し、インターネットで配信したとして名誉毀損と著作権法違反の疑いが持たれています。

2人はパソコンとインターネット上のフリーソフトを使い、「ディープフェイク」と呼ばれる技術で芸能人1人につき、およそ3万枚の画像をAIに学習させたうえで、アダルト動画と合成していたということです。

調べに対しいずれも容疑を認め「金もうけをしたかった」、「技術を評価してもらいたかった」などと、供述しているということです。

このうち林田容疑者は会員制の有料サイトを運営し、およそ80万円を売り上げていたということで、警視庁は2人がこれまでに合わせて1200本を超える偽の動画を作成したとみて調べています。

警視庁によりますと「ディープフェイク」の動画をめぐって、制作者が逮捕されたのは初めてだということです。

京都府警もディープフェイク動画で摘発

AI＝人工知能を使って精巧な偽の動画を作る「ディープフェイク」と呼ばれる技術を使い芸能人の顔をアダルトビデオの女性の体に合成した動画を作成したなどとして、大分県の30歳の男が著作権法違反などの疑いで逮捕されました。

逮捕されたのは大分県杵築市の無職、野間口功也容疑者（30）です。

京都府警察本部によりますと、野間口容疑者はことし4月、AIで本物と見分けが付かないほど精巧な偽動画を作る「ディープフェイク」と呼ばれる技術を使って芸能人の顔をアダルトビデオの女性の体に合成した動画を作成し、ツイッターに掲載したなどとして、著作権法違反や名誉毀損の疑いが持たれています。

調べに対して容疑を認め「金もうけのためにやった」などと供述しているということです。

警察は野間口容疑者が専用のアプリを使って100本以上の偽動画を作り、販売料やサイトの広告収入で50万円余りの利益を得ていたとみて調べています。

警察によりますと、「ディープフェイク」を使った偽動画の制作者が検挙されるのは全国で初めてだということです。

「ディープフェイク」とは

「ディープフェイク」とは、AI＝人工知能を使って、本物と見分けがつかないほどの巧妙な偽の動画を作る技術のことです。

ある人の顔の映像や音声データを集めてAIに学習させることで、合成された顔を単純なすり替えではなく、自然な表情で動かします。

3年ほど前から海外を中心に広がりはじめ、アメリカのオバマ前大統領やフェイスブックのザッカーバーグCEOが実際には言っていないことをインタビューで話したように加工した偽の動画などが公開され、議論を呼びました。

ディープフェイク自体を規制する法律はなく、被害をどう防ぐのか課題となっています。

俳優やアイドルなどの被害 約200人

警視庁によりますと、「ディープフェイク」の技術で作成したとみられる偽のアダルト動画は、国内では去年からインターネット上で確認されるようになりました。

警視庁がサイバーパトロールを行った結果、9月末までに少なくとも3500本が確認され、被害に遭ったとみられる女性芸能人は、俳優やアイドルなどおよそ200人に上っているということです。

「ディープフェイク」は、画像や音声などをAIに繰り返し学習させることで本物と見分けがつかないほどの動画を作成する技術ですが、インターネット上には専用のフリーソフトが出回っているほか、作り方を指南するサイトもあり、専門家は被害が拡大する要因になっていると指摘しています。

また、「ディープフェイク」の動画を専門に扱うサイトなども増えているということで、警視庁は今後、取締りを強化することにしています。

専門家「名誉毀損と表現の自由のバランスどう取るか」

情報セキュリティ大学院大学の湯淺墾道教授によりますと、「ディープフェイク」はすでに亡くなった俳優を現代の映像に登場させるなど、主に映画産業で発達してきた技術だということです。

しかし、技術が進歩してスマートフォンでも手軽に動画の合成や編集ができるようになり、アメリカでは有名な政治家が酔っ払った状態で討論会に出席しているような偽の動画が拡散されたり、ポルノに使われたりと、悪用されるケースが増えているということです。

湯淺教授は、日本でも今後同様のケースが増えることが考えられるとして、制作者が検挙されたことは抑止効果につながり、意義があることだと述べました。

一方で、ディープフェイクの規制は画像の加工や公開といった行為の規制につながる可能性があり「表現の自由を守ることと名誉毀損を取り締まるというバランスをいかに取っていくかが法的な課題だ」と指摘しました。

また、被害を減らすためにディープフェイクを使った偽動画の作成や配信が犯罪になりうるということを広めるとともに、被害にあった人の支援にあたる団体が必要になると話しています。

芸能人の顔を、裸の体にくっつけたり、勝手に水着にしたりを二次元でやることを、「アイコラ」と呼びます。私がミリオン出版に入社した年、ある雑誌が矢口真里を勝手に裸にした（んだったっけ、もう詳細忘れた）という罪で、社長が捕まり、私は長く社長に会うことができませんでした。

アイコラには歴史があり、編集者として語りだすと長くなるのでまたの機会にしますが、ついに世の中は動画でアイコラする時代に突入したんですね。

しかも、めちゃくちゃ精度が高いという……。

良い、悪い、は別にして、感慨深いものがあります。

メールマガジン

さて、ネット上ではこのニュースを受けて、様々な声が上がっています。

「検挙が快挙に見えた」

「アメリカは大統領や企業のイメージを損ねる為に技術を使い、一方日本では見たいアイドルのアダルトビデオをその技術で作成ってなんだかウケる」

「AVに出演してた疑惑が出そうで怖いよな」

「芸能人は流出騒動があっても、フェイクですって言えば済みそう」

「大変お世話になりました。 一日も早い帰還をお待ち申し上げます…コラコラ(笑)」

「あーん！ いっぱいお世話になってたしん！！」

「お世話になってた人多すぎて草 見たことあるけど普通にすごい技術だった」

「これは怖い技術。段々何が本当で何が嘘か分からなくなる」

「これ、証拠映像とかも任意の顔に変えられるなら、犯罪者の捏造にも使える技術なんだよね」

そうなんですよねえ。

池田エライザちゃんも最近ハメりんこ動画が流出とかで大騒ぎになっていましたが、実は私はこの類ではないかと考えてて、「ないないないｗ」と言ったんです。

これは芸能各社が利用したい技術ですよ、きっと。