ディープフェイクとは？
ディープフェイクとは、機械学習のうちディープラーニング技術を用いた人間画像合成技術です。
簡単に説明すると、実在人物の写真を合成して映像編集物を作る技術です。
ディープフェイク技術の発達により、専門家でない一般人でも手軽にディープフェイクを活用してコンテンツを作れるようになり、これを裸の写真などと合成してわいせつ物を制作・配布したり、フィッシングなどの詐欺に悪用されたりといった問題が生じています。
この記事で扱う問題は、虚偽のわいせつ物を制作・流布するなどの犯罪について述べています。
ディープフェイク犯罪
ディープフェイク犯罪は以前から芸能人などを対象に行われてきました。 しかし、 最近テレグラムのディープフェイク性犯罪により、100校以上の大学だけでなく、中高等学校、 軍隊でも大規模な性犯罪が明らかになり、さらに話題となりました。
ディープフェイク処罰規定
ディープフェイク処罰規定は、性暴力処罰法（성폭력처벌법）第14条の2で定められています
第14条の2（虚偽映像物等の頒布等） ① 頒布等を行う目的で、人の顔・身体または音声を対象とした撮影物・映像物または音声物（以下この条において “映像物等”という）を、映像物等の対象者の意思に反して性的欲望または羞恥心を誘発しうる形態に編集・合成または加工（以下この条において “編集等”という）した者は、5年以下の懲役または 5千万ウォン以下の罰金に処する。
② 第1項による編集物・合成物・加工物（以下この項において “編集物等”という） または複製物（複製物の複製物を含む。 以下この項において同じ）を頒布等した者、または第1項の編集等を行った当時には映像物等の対象者の意思に反しなかった場合であっても、事後にその編集物等または複製物を映像物等の対象者の意思に反して頒布等した者は、5年以下の懲役または 5千万ウォン以下の罰金に処する。
③ 営利を目的として、映像物等の対象者の意思に反し情報通信網を利用して第2項の罪を犯した者は、7年以下の懲役に処する。
④ 常習として第1項から第3項までの罪を犯したときは、その罪に定めた刑の 2分の 1まで加重する。 <新設 2020. 5. 19.>
[本条新設 2020. 3. 24.]
ディープフェイクの視聴は処罰されるのか？
ディープフェイクの視聴に関する処罰規定はありません。
性暴力処罰法第14条によれば、カメラ等利用撮影罪では視聴、 購入、 所持した者も処罰が可能ですが、 性暴力処罰法第14条の2では、視聴、 購入、 所持した者に対する処罰は規定されていません。
ただし、 その対象が未成年者である場合には、青少年性保護法（청소년성보호법）（通称アチョン法）により、視聴しただけでも処罰されることがあります。
第11条（児童・青少年性搾取物の制作・配布等） ⑤ 児童・青少年性搾取物を購入した者、または児童・青少年性搾取物であることを知りながらこれを所持・視聴した者は、1年以上の有期懲役に処する。
ディープフェイク犯罪の成立要件
ディープフェイク犯罪の成立要件で最も重要な点は、頒布等を行う目的がなければならないという点です。
つまり、 制作したというだけでは処罰が難しく、配布をしていれば処罰が可能です。
しかし、 配布をしておらず、個人で保管する目的で制作した場合には、この配布する目的を立証することは非常に困難です。
実際に、ディープフェイクわいせつ物に対する処罰事例は非常に少ないのが現状です。
ディープフェイク処罰
ディープフェイクの処罰は、以下のような場合に可能となりえます。
- ディープフェイク制作の依頼
制作者が映像を配布する場合には、共犯と分類され処罰の対象となることがあります。 - トレントを利用したダウンロード
トレントを利用してダウンロードを行うと、他人と共有されることになるため、流布者となって処罰されることがあります。 - 未成年者のディープフェイク合成および視聴
未成年者を対象としたディープフェイクについては、青少年性保護法により処罰されることがあります。 - ディープフェイク映像の共有
ディープフェイク映像を共有すると、性暴力処罰法第14条の2により処罰されることがあります。
ディープフェイクの保安処分
ディープフェイクにより罰金刑以上の処分を受けることになった場合には、刑事処罰のほかに保安処分を受けることがあります。
保安処分は、性犯罪について罰金刑以上の処分を受けることになった場合に科される処分です。
ディープフェイク保安処分の内容
ディープフェイク保安処分の内容は以下のとおりです
1. 身上情報の公開
2. 性教育の受講
3. 就業制限
4. ビザ制限
5. 電子足輪（GPS発信機）の装着など
ディープフェイク犯罪への対策
ディープフェイク犯罪への対策は、さまざまな方面で講じられている最中です。
ディープブレイン AIのディープフェイク検知ソリューションや、 インテルの偽物鑑別ツールなどによって、ディープフェイクコンテンツの真偽を把握できる技術が発表されました。
ネイバーの AI チャットボット「クローバX」では、画像編集機能を通じて生成された画像がわいせつ物などのコンテンツ生成につながらないよう安全装置を適用しており、カカオブレインやTikTok、 インスタグラムなどでは、AI生成コンテンツに対してその旨を表示するようになる予定です。
政府もこれに対する対策を準備中です。
放送通信審議委員会では、状況室を通じて被害者や支援機関から被害申告を受け付けてモニタリングを行っており、毎日電子審議を開催して 24時間以内にデジタル性犯罪情報の是正要求措置を行っています。
女性家族部は、2025年までに AIを活用してディープフェイクわいせつ物を発見し、オンライン事業者に自動で削除を要請するシステムを構築することを計画中です。
現在、AIによる仮想コンテンツに AI生成コンテンツである旨の表示を義務付ける法律案が発議され、国会に係属中です。
性犯罪専門弁護士
このように、ディープフェイク犯罪は非常に重大な性犯罪であり、政府レベルでその対策が講じられている最中です。 したがって、ディープフェイク犯罪は今すぐ処罰を受けないとしても、後に処罰される可能性があるため、犯罪を犯してはならず、万が一関連する犯罪に巻き込まれた場合には、性犯罪専門弁護士の助けを受けることが望ましいでしょう。
