顔、音声、身体、自然言語などの人間由来の情報をAIが学習し、本物と見紛うシンセティックメディアの生成が可能になった。シンセティックメディアは、コミュニケーション分野やエンターテイメント分野など様々な用途で活用されている。一方で、シンセティックメディアの負の側面として、詐欺や思考誘導、世論操作を行う目的で、フェイク映像、フェイク音声、フェイク文書といったフェイクメディアを生成、流通させる事例が発生しており、社会に恐怖や混乱を引き起こす不確かな情報の氾濫「インフォデミック」が危惧されている。本講演では、このようなフェイクメディアによる脅威を概説するとともに、講演者らがJSTの戦略事業（CREST）のもとで現在進めている研究プロジェクト。「インフォデミックを克服するソーシャル情報基盤技術」（CREST FakeMedia）の最新の研究成果について紹介する。

2016年の米国大統領選では、フェイクニュースがSNS上に氾濫して社会を混乱させた。2020年は、新型コロナのパンデミック発生にともない、反ワクチン言説や陰謀論が氾濫した。2022年には、ロシアのウクライナへ侵攻に関係してSNSがプロパガンダの拡散に使用されたり、生成AIによるコンテンツの拡散が生じている。嘘やデマ、陰謀論やプロパガンダ、フェイクコンテンツ、こうした虚偽情報がSNSを介して大規模に拡散しする現象は、人間と技術の相互作用が生み出す複雑な現象であり、私たちの日常生活や民主主義を脅かす深刻な社会問題である。本講演では、フェイクニュースの拡散に関わるミクロ要因（認知バイアス、社会的影響）やマクロ要因（エコーチェンバー、フィルターバブル）に関する計算社会科学の知見を紹介する。また、フェイクニュースの拡散を抑止するためのプラットフォームレベルでの行動介入技術について紹介する。

AIの利活用に際して懸念されている問題の一つが、ディスインフォメーションへの利用である。近年、ディスインフォメーション対策はサイバーセキュリティの主要課題の一つとなっているが、各国における対策や法的規制の態様はさまざまである。米国ではディスインフォメーションを通じた選挙干渉には連邦軍も対処に当たることを可能としたほか、中国ではデータセキュリティ法を制定してAI関連技術の研究開発に利用するデータ自体に規制を加え、EUではAIの利用形態自体に対する規制の動きがある。各国における法的規制の動向を紹介し、法的規制の是非自体も含めてAI関連技術の研究開発を妨げずにその社会的弊害の発生を抑止する方法について考えることとしたい。