人工知能（AI）が生成する文章は、単なる情報の要約や翻訳の域を超え、特定の個人の文体や思考プロセスを模倣する「人格模倣」の段階に達している。この技術的進展は、AIが人間のふりをして意思疎通を行う「AIゴーストライティング」や、偽りの人格を用いた「世論操作」といった深刻な倫理的・法的課題を浮き彫りにしている。

2025年の研究によれば、インターネット上のコンテンツの過半数がAI生成物へと移行しており、スタンフォード大学の2025年AI Indexによれば、生成AIへの世界の民間投資は2024年に339億ドルに達し、2022年比で8.5倍超に膨らんでいる。この急拡大が、「認知の萎縮（cognitive atrophy）」や批判的思考能力の低下、そして民主主義的対話の不全を招くリスクが指摘されている。

1.1 欺瞞の問題とサイバー擬似作

AIが自らを人間であると偽ってコミュニケーションを行う場合、それは個人の自律性を侵害し、社会的信頼を損なう行為とみなされる。教育や研究の場では、AIを利用した不正行為が「従来の盗用」とは異なる新しい形態として現れている。これを「サイバー擬似作（cyber pseudepigraphy）」と呼び、自らの思考を経ずにAIにコンテンツを生成させながら、それを自らの知的能力の結果として提示する行為は、教育の本質を損なうものと批判されている。

従来の盗用は他者の著作物を流用するものであったが、AIによる生成は「誰も書いていないが、自分も書いていない」文章を生み出し、著作者の概念そのものを空洞化させる。

1.2 デジタルツインの法的地位と権利問題

ペンシルバニア大学の法学教授ジェニファー・ロスマン氏は、「知的財産法が人々を財産の一形態へと変換する方法」の専門家として、デジタルレプリカ時代の到来に強い警戒を示している。AIが特定の個人の姿、声、性格を完全に再現する「ヒューマン・デジタルツイン（HDT）」の技術は、その法的地位をめぐる複雑な議論を呼んでいる。

もし個人の声や容姿の権利が企業に永続的に譲渡可能となれば、本人の意図しない文脈（成人向けコンテンツや政治的プロパガンダ）でその人格が利用され続けるリスクがある。

EUの欧州議会調査局（EPRS）が2025年12月に発表した報告書は、生成AIが外国による情報操作と干渉（FIMI）を劇的に加速させていると警告している。ロシアによるウクライナ侵攻以降、AI生成コンテンツを駆使した親ロシア的偽情報キャンペーンが急増しており、2022年3月にはゼレンスキー大統領が降伏を命じるよう見せかけたディープフェイク動画がTwitter・Facebook・YouTubeに拡散した。

2.1 「作戦オーバーロード」と組織的偽装工作

2025年1月〜3月、ISD（戦略対話研究所）はロシア系の作戦「Operation Overload」が80以上の組織を模倣していたことを確認した。Wall Street Journal のロゴを用いた偽動画はUSAIDが「ウクライナの子供たちにLGBTQ+の価値観を資金提供した」と虚偽主張する等、メディアの信頼性そのものを武器とする手法が確認されている。

AI技術が「自律型エージェント（Agentic AI）」へと進化する2026〜2030年にかけて、規制の焦点は静的なコンテンツ生成から、動的な意思決定と行動へと移行する。AIエージェントが自律的にコードを実行し、契約に署名し、取引を完了させる未来に向けて、「代理人法（Agency Law）」の再解釈が進んでいる。