上观新闻 | 傅昕源：高度重视多模态AIGC治理

今年两会期间，全国政协委员靳东和全国人大代表雷军均关注到“AI换脸”问题。靳东指出该技术导致诈骗问题引发热议；雷军则在其议案中提到，“AI换脸拟声”滥用已成为违法侵权的重灾区。在互联网与人工智能深度融合的背景下，多模态AIGC（AI-Generated Content：一种利用AI技术自动生成内容的新型生产方式）因其卓越的内容创造能力，迅速扩展至传媒、教育、娱乐和营销等多个领域。多模态人工智能生成内容技术融合语言理解、图像处理和语音识别等多种科技，通过算力对文本、图像、音频及视频等不同类型数据特征进行提取、整合与建模，模型能够自动识别这些数据之间的关系和深层次含义，进而生成内容。这种技术的应用不仅显著提高了内容生成的速度和丰富性，也为各个领域带来了源源不断的创新动力。

然而，多模态人工智能生成内容技术的广泛应用，也导致了虚假信息和侵权内容批量化生成。特别是对“换脸”“拟声”等违规侵权行为的滥用，扰乱网络信息的传播秩序，并对网络环境与内容生态产生负面影响。数字产品的基石在于信息真实可信，在AIGC生成的过程中，数据源与算法模型的复杂交织，信息在生成、传递与处理的各个环节频繁地进行转换和跨平台整合，大幅增加信息真实性追溯的难度。同时，对原创性标准的界定模糊化也使版权风险上升，进一步加剧治理的复杂性。因此，有必要大力加强多模态AIGC治理的科学性、协作性与实效性，以共同维护网络空间清朗。

一、预防为先，强化法律与技术保障

人工智能的健康发展需要技术与法律的协同发力。首先，应厘清AIGC监管的法律框架，制定专门针对多模态AIGC领域的法律制度，使从模型构建、数据获取、用户交互到应用场景等各个方面，都能实现法律的全面覆盖。通过明确法律边界与责任归属，提升立法的科学性和前瞻性，为内容治理奠定坚实的法律基础。完善法律体系不仅能够规范当前的问题，更能预防未来潜在风险，减少虚假信息和侵权行为的滋生。其次，技术手段同样发挥着重要的作用。应善用AI技术治理AI，通过融合多种技术构建高效的多模态联合检测模型，利用深度学习技术精准识别虚假、侵权和不良信息。借助技术手段，提前识别和应对潜在的威胁，最大限度地遏制不良信息的生成和传播。技术与法律的结合，既赋予技术更强的治理能力，又确保技术在法律框架内有序发展，实现技术赋能、法律规制的良性互动。

二、源头治理，规范内容生成全流程

源头治理是内容治理的关键环节。网络平台需要主动履行社会责任，要对从算法构思、数据收集和标注，到模型训练，直至内容创作和发布的整个过程进行严格监管。引入区块链技术对多模态AIGC的生成及传播过程进行全程记录，借助其不可篡改的特点，确保内容的来源和流通信息清晰可追溯。应设置专门的“AI创作”标签，以帮助用户更容易地识别出AI生成的内容。建立严格的审核机制，配备专业审核团队，结合机器初筛与人工复审，提高审核效率和准确性。优化数据标注与质量控制体系，剔除虚假、错误或有偏见的数据，从源头降低不良内容生成的风险。通过规范内容生成的全流程，不仅可以减少虚假信息的产生，还能提升内容的质量和可信度。平台作为内容生成和传播的重要载体，必须在算法设计和数据管理上严格把关，确保生成内容符合法律法规和社会道德标准。全流程的管理不仅是一种责任，更是对平台自身声誉和可持续发展的保障。

三、多元协作，完善协同治理新机制

多元化合作是应对复杂治理问题的有效途径。政府需要建立人工智能生成内容企业的备案登记，以加强对企业资质、数据安全和算法透明度的监管。相关监管机构应构建跨部门协同监管机制，以形成综合性的监管措施，并定期对多模态AIGC平台实施评估和检查。推动行业协会制定自律准则，引导企业自觉遵守，实现行业内部监督与管理。加强国际合作，共同制定国际规则和标准，构建全球性的AIGC治理体系。政府、企业、行业协会、国际组织等各方力量的协同合作，可以形成全方位、多层次的治理体系。政府监管统筹发展与安全，为行业的发展指明方向；企业的自我约束筑牢信息安全第一道屏障；行业团体所制定的自律准则以及国家间的协作，可以为有效治理提供更为广阔的视野和更丰富的资源。

四、依靠群众，构建全社会参与格局

在治理多模态AIGC的过程中，公众不仅仅扮演着内容消费者的角色，更是治理体系中不可或缺的主体之一。应当激励广大公众积极参与对多模态AIGC的监督，引导社会组织参与共治，实现共建共享。通过各种途径，如媒体宣传、学校教育及社区活动，增强社会公众对多模态AIGC技术的理解和认识，提升公众数字素养。关注数字弱势群体，推动弥合AI数字鸿沟，增强公众识别虚假信息、侵权内容及有害信息的能力，提升对个人隐私保护和著作权保护的关注。为公众提供便捷的反馈渠道，使公众能够及时反映问题、提出建议，增强公众参与治理的获得感和信任感，从而提升基层治理的效能。

随着多模态AIGC技术在元宇宙、虚拟现实等新兴领域的应用不断拓展，网络空间内容治理正迎来前所未有的机遇，同时也面临着诸多新的挑战。为此，我们必须持续推进治理技术创新，进一步完善法律法规，不断强化行业自律，持续提升公众素养，并着力构建一个更加健全、完善的治理体系。

（作者为上海师范大学党委宣传部副部长（新闻中心主任））

链接地址：https://www.shobserver.com/staticsg/res/html/web/newsDetail.html?id=871551