10月29日第2回勉強会レポート――生成AIによるディープフェイクは止められるのか？

10月29日（火）にオンラインで行われた勉強会「生成AI問題とディープフェイク」に、企画・主催の出版ネッツ組合員だけでなく外部のマスコミ関係者等合わせて45人が参加。ジャーナリストの内田聖子さんによる約1時間にわたる講義の後、デジタル性暴力の問題に取り組む金尻カズナさんからの報告、質疑応答と、充実した会となった。

AIは凄まじいスピードで進化を続けている。政府や企業は利便性や産業推進の観点を強調するが、働き手にとっては「仕事を取られる」という懸念が拭えない存在だ。今回の勉強会のテーマは、著作権の侵害など特に影響が顕著な「生成AI」と、それによってつくられる巧妙なニセの情報「ディープフェイク」である。

ディープフェイクの法規制へ

講師の内田聖子さんは、NPO法人アジア太平洋資料センター（PARC）共同代表として、市民の立場でデジタル政策をウォッチし、政府や国際機関への提言等の活動もなさっている。お話はまず、生成AIを含むデジタル技術によって世界のビジネスがどのような構造になっているか、ということから始まった。

私たちの検索や購入や視聴や「いいね！」クリックなどなど、ネット上の日々の行動を吸い上げる「監視資本主義」というデジタル技術による経済体制がすでに確立している。Googleなどの巨大IT企業（ビッグ・テック）はそれらすべてをビッグデータとAIの機能を使って分析し、その結果が私たちのデバイスの画面に、絶妙なタイミングとチョイスの広告として表示される。それは便利なものである反面、あらゆる行動を知られているのにそれがどのようなアルゴリズムで分析されているのかは全く見えない、という非対称な関係性を意味する。今やそのビジネスは、社会のありとあらゆる領域に入り込んでいる。例えばAmazonはショッピング事業というイメージがあるが、実際のところは事業の買収あるいは吸収合併によって、エンターテインメント、医療、ヘルスケア、家事サービス、農業、金融などの領域を覆っている。

ビッグ・テックは、AIやソフトウェア、クラウドはもちろん、データセンターやネットワークを構成し動かすために、世界中でエネルギーや水、鉱物資源などを大量に使い、採掘現場では子どもを含む労働者を搾取している。こうした独占状態は「テック封建制」と呼ばれ、その主流は米国の企業である。彼らはそれに法規制をかけさせないよう、連邦政府に働きかける大勢のロビイストを雇用し活動させている。AIの社会への普及が、人権侵害を侵しながら進んでいるのに歯止めがかからない。

そのなかで発展している生成AIの技術を最悪の形で応用するのがディープフェイクだ。内田さんが紹介された、2024米大統領選挙の宣伝の例は、人気ポッドキャスト番組で自身の性生活を語るカマラ・ハリス、トランプを支持するテイラー・スウィフトとそのファンなど、様々な層をぎょっとさせ興味を引くものばかりだ。なかにはトランプ当選後に新設された政府効率化局（DOGE）トップに就任したイーロン・マスクが自分で投稿したものもあって呆れるが、洪水のように情報があふれ流れる画面では、その背景や意図を考えず投票行動に結びつくことも少なくないだろう。大統領選の前後、米国では多くの州でディープフェイクに関する法規制が敷かれたという。また罰則規定付の規制法を制定する国もあり、世界にわたる捜査で逮捕者も出ている。

人権に根ざした市民の運動が必要

しかし日本は、現在のところディープフェイクを含むデジタル被害を強く規制する法律を持っていない。選挙に悪用される懸念もあるが、性的被害はすでに甚大で事態は切迫している。勉強会では、ポルノ被害の相談支援に取り組む金尻カズナさん（NPO法人ぱっぷす理事長）に、この問題について特別報告をいただいた。デジタル技術の発展と普及により、性的な動画に卒業アルバムの写真から切り抜いた顔を当てはめてポルノ動画を作るようなことが、専門技術なしでも可能になった。しかし規制する法制度がないので、そのような動画が拡散され警察に相談しても対応が鈍いのが現状である。ぱっぷすでは、こうした被害の相談に対応して、警察や法律相談への同行や記録の提出、拡散された画像や動画の削除要請などの活動を行っている。

デジタル技術とビジネスの発展は、世界規模の経済や環境の問題、フリーランスが「仕事を取られるかも」という身近な心配、ポルノ被害など、様々な領域と階層に深刻な影響を与えている。それに抵抗するために、人権に根ざした様々な立場の市民の運動が必要である。内田さんは、労働も含め様々な領域で活動する団体のプラットフォームを作っていきたいと構想している。出版ネッツも、コンテンツの企画・制作や情報発信などの幅広い現場で働く当事者の声を集めながら、プラットフォームに加わっていけたらいいのではないかと考えた。　

※図1・２は内田聖子さんから、図3・4は金尻カズナさんから許可を得て転載

（文：古川晶子／執筆）