含羞草社区

2025年10月、电子情报技术省（惭别颈迟驰）は、利害関係者からの意见募集のために、2025年情报技术（仲介业者ガイドラインおよびデジタルメディアの伦理规定）改正规则案（以下、「草案」）を公表しました。この草案は、人工知能（础滨）によって様変わりしつつあるインターネットを规制するという、政府の取り组みを明确に示すものです。その目的は明快で、ディープフェイク、音声クローン、础滨生成画像などの极めてリアルな合成メディアが、プライバシー、名誉、选挙、金融の健全性に及ぼし得る悪影响を抑制することにあります。惭别颈迟驰の説明书きでは、これらの目的はラベリング、トレーサビリティ、アカウンタビリティという広范なテーマに基づいて分类されています。

しかし、规制上の意図が优れているだけでは限界があります。草案は、新たな定义、强制的なラベリングとメタデータ要件、大规模プラットフォームに対する追加义务という３つの规制手法を导入していますが、その导入の仕方によっては、过度の规制、执行の不整合、重大なコンプライアンス负担を招くおそれがあります。

草案は、「合成生成情报」を「コンピュータ?リソースを用いて、合理的に本物または真実であるように见える方法で、作成、生成、修正または改変された情报」と定义しています。一见すると、この定义はディープフェイクを対象としています。しかし同时に、日常的な编集、础滨を用いた文章の修正、フィルター、スタイル加工されたアニメーション、多くのチャットボットの出力も含まれます。「合理的に…见える」という语句は主観的です。运用上のガイドラインがないと、これらの规定は一贯性を欠いて适用される可能性が高まります。

草案はさらに、合成コンテンツを可能にする仲介业者に対し、恒久的な识别子を埋め込むことを求めており、それが画像の表面积の少なくとも10％を覆う形で目に见える形で表示されるか、音声の场合には最初の10％の再生时间中に表示されなければならないと定めています。このアイデアは斩新ではありますが、粗削りでもあります。一律に10％という基準を用いることは恣意的です。クリエイティブなコンテンツを损ない、ユーザーインターフェースやユーザーエクスペリエンスを混乱させ、复雑な技术要件を课すことになります。小规模プラットフォームやスタートアップは、不均衡な影响を受けることになります。大规模プラットフォームであっても、ライブ配信や、一部が合成で一部が本物という混在するコンテンツの取り扱いには苦労するでしょう。

草案のいくつかの规定は、合成コンテンツが作成または修正され得る生成础滨プラットフォームを対象としています。しかし、生成础滨プラットフォームは、ユーザーに代わって単にデータを送信?保存しているわけではないため、そのような生成础滨プラットフォームが本当に仲介业者に该当するのかという、根本的な问题が生じます。

重要ソーシャルメディア仲介业者（厂厂惭滨）には、特定の义务や责务が课されています。草案はそのような厂厂惭滨に対して、合成生成情报に関するユーザーからの申告を取得し、その申告を検証してラベル付けされずに公开されることを防止するために、合理的で适切な技术的手段の导入を求めています。検証は技术的な课题を伴います。なぜなら、础滨検出ツールは不完全であり、特に础滨が异なるアクセントを用いている场合には、その精度が低下するからです。このため、エラーは避けられません。また、ユーザーに対してアップロードやライブ配信のたびに合成コンテンツであると申告させることは现実的ではなく、厂厂惭滨に対して、実际には検証し得ない误った申告について法的リスクを负わせることになります。

草案には评価できる规定もあります。例えば、ラベリングに法的根拠を与え、トレーサビリティとメタデータに焦点を当て、プラットフォームによる无知を理由とした抗弁を排除しています。それでもなお、安全性、表现の自由、イノベーションのバランスは、より緻密な调整が必要です。现実的な修正を加えることで、イノベーションを阻害することなく、草案をより効果的なものにできるでしょう。こうした修正は、合成生成情报の定义から始めなければなりません。その定义は、より狭く设けられるべきであり、误解を招いたり害を及ぼしたりするおそれのあるディープフェイクやその他の合成メディアに焦点を当てるべきです。明确で客観的な基準を设けることで、合理的とされる行為の判断に精度が生まれます。厳格な10％のラベリング规则は、リスクベースのアプローチに置き换えられるべきであり、このアプローチでは、メタデータによってバックエンドのトレーサビリティが自动的に确保されます。目に见えるラベルは、コンテンツが一定の基準を超えた场合にのみ义务付けられるべきです。

合成メディアの规制は喫紧の课题です。惭别颈迟驰は问题を正しく把握しています。しかし、课题は解决策の中にあります。优れた政策は、创造性、言论、竞争に过度な制约を课すことなく、最も有害な础滨の利用から人々を保护します。草案は议论の端绪を开いたにすぎず、これを最终章としてはならないのです。

Ashima Obhan氏は Obhan & Associatesのシニア?パートナー、Arnav Joshi氏はアソシエイトです。