记者 孟群舒
  “人工智能语音克隆令人难辨真假，名人视频遭伪造而‘被带货’，统计显示2023年基于人工智能的深度伪造欺诈暴增3000%……”市人大代表、上海合合信息科技股份有限公司董事、董事会秘书刘忱表示，生成式人工智能加速迭代，在带来便利的同时，如果缺乏科技伦理的规范引导，容易滋生出诸多安全隐患，成为不法分子实施网络犯罪的新工具。
  刘忱分析说，生成式人工智能技术短短两年便实现从文生文、文生图到深度伪造、文生视频的跨越，引发电信诈骗技术升级，严重威胁公众财产安全。根据专业安全技术公司对全球7个国家7000多名被访者的调查，四分之一的成年受访者经历过人工智能语音克隆骗局，70%的人难以分辨克隆声音与真实人声。
  刘忱建议，必须多管齐下，从构建治理机制、加强技术研究、优化伦理训练与数据集，到强化知识产权保护等多方面入手，方能引导科技向善，有效应对生成式人工智能带来的安全挑战，推动行业良性发展。
  “要鼓励企业研发人工智能防御与鉴伪技术，开展主动防御和主动监测。”刘忱提出，应鼓励科技企业运用技术手段，强化对人工智能造假信息的甄别。比如，利用数字水印技术实现对合成内容的追踪溯源，文本、图像、音频、视频等均可作为数字水印载体，验证者通过算法对数字水印进行验证，快速识别机器生成文本内容，实现“主动防御”。又如，引入人工智能欺诈检测与鉴伪技术，精准识别伪造内容，实时监测并应对生成式人工智能欺诈行为，以技术防御和人工干预相结合的方式，实现“主动监测”，筑牢安全防线。
  此外，刘忱建议明确生成式人工智能的知识产权归属，细化侵权责任认定，加强数据知识产权保护。“执法过程中可引入技术手段，对人工智能生成的视频、图像进行版权标识和追踪，为原创作品提供确权服务，维护创作者合法权益，促进生成式人工智能技术在尊重知识产权的前提下健康发展。”