本サイトはアフィリエイト広告を利用しています
韓国人「AIが現実を侵食…」韓国社会で広がるAI生成コンテンツの危険性に海外メディアが警鐘
韓国社会で生成AIの普及が急速に進む中、現実と仮想の境界線が曖昧になっていると、海外メディアが分析しています。17日（現地時間）、香港のサウスチャイナ・モーニング・ポスト（SCMP）は「実在感の欠如：韓国はいかにしてAIに対する現実感覚を失ったか」と題する記事を掲載しました。同紙は、韓国で相次いで話題になったAI生成コンテンツの事例を紹介し、技術の拡散速度に比べて社会的なセーフティネットが追いついていないと指摘しています。
SCMPが代表例として挙げたのは、最近SNSで大きな注目を集めた「野球場女神」動画です。プロ野球の観客席に座る女性の姿を捉えた5秒間のこの動画は、「平均的な韓国人女性」「韓国の野球女神」といったタイトルで拡散され、再生回数は1500万回を超えて話題となりました。しかし、この女性は実在の人物ではなく、AIによって生成された偽物でした。野球ファンは、電光掲示板に引退した選手と現役選手の対決構図が表示された点や、「最強斗山（チェガン ドゥサン）」とすべきところが「最強は斗山（チェガンウン ドゥサン）」と誤って書かれた応援メッセージなどを根拠に、この事実を見抜きました。
AI生成物が娯楽の域を超え、公共の安全を脅かした事例も報じられています。今年4月、大田（テジョン）のオーワールドでオオカミ「ヌック」が脱走した騒動の際、SNSにはオオカミが学校前の交差点を歩き回るような画像が拡散されました。この写真は、災害対応当局の住民避難通知や放送ブリーフィング資料にも影響を与えましたが、実際は生成AIによって作られた合成写真でした。その後、制作者である40代の会社員は公務執行妨害の容疑で警察に逮捕されました。
SCMPは、韓国が世界で「AIスロップ（AI slop）」と呼ばれる低品質AIコンテンツの消費が最も活発な国の一つであると伝えています。AIスロップとは、クリック数を稼ぐために大量生産される低品質なAIコンテンツを指します。グローバル動画編集プラットフォーム「カプウィング（Kapwing）」の分析によると、韓国を拠点とする11のAIスロップYouTubeチャンネルの累計再生回数は約84億5000万回に達するといいます。
2024年に社会問題となったテレグラムのディープフェイク性犯罪事件も言及されました。未成年者や女性の顔を合成した違法画像が大規模に拡散され、AI悪用の危険性が浮き彫りになったのです。
韓国AI安全研究所のキム・ミョンジュ所長はSCMPのインタビューに対し、「外見やイメージへの文化的な関心が高い韓国では、AIが抑圧された欲望や挫折を代償的に満たす、歪んだ鏡の役割を果たしている」と述べ、「過度な没入は現実逃避を助長し、生活の満足度を低下させる悪循環を生み出す可能性がある」と診断しました。
SCMPは、韓国の生成AI受け入れ速度は世界最高水準であるものの、規制や倫理に関する議論は依然として不十分であると指摘しています。
引用元記事:https://n.news.naver.com/article/277/0005764543
↓をクリック頂けるととても励みになります！
