对于在过去半年多时间中草莽生长、狂飙突进的大模型行业而言，《暂行办法》的生效可以说是正当其时。

据中国科学技术信息研究所发布的《中国人工智能大模型地图研究报告》，截至2023上半年，国内10亿级参数规模以上大模型已发布了79个，数量排名全球第二，仅次于美国。

在对大模型产业生态的探索过程中，数据是必要的生产数据，也是亟待规范的重要环节。律师王晨告诉「市界」：“我国对个人隐私的保护早已在相关法规、规章中有所体现，比如2012年通过的《关于加强网络信息保护的决定》，但是随着AI技术发展，对个人信息的收集和使用方式也不断推陈出新，需要监管层面的不断调整与补充。”

而刚刚生效的《暂行办法》是国内乃至全球，首个对于当下爆火的生成式人工智能（AIGC）产业发布的规范性政策。

这样的背景下，科大讯飞董事长刘庆峰认为：“（随着《暂行办法》生效），8月15日将会迎来中国通用人工智能发展的关键节点，也将会是一个里程碑式的节点。”

01 “妙鸭相机”不能拿走用户数据

就在前不久，9.9元生成数字分身和AI写真的“妙鸭相机”火爆全网，甚至出现了数千人排队制作数字分身的情况。但是，其隐私条款中写有用户授予妙鸭相机的授权许可“不可撤销”、对用户内容可以“任何形式任何范围使用”等不当内容。

尽管妙鸭相机开发方此后回应称，原协议内容有误，并第一时间删除了相关条款，这一事件仍引起了用户的担忧。

利用AIGC技术来生成人脸视频甚至模拟人声，用于新型诈骗的案例也曾见诸报端。据公安部数据，截至8月10日，针对“AI换脸”导致的欺诈问题已侦破相关案件79起，抓获犯罪嫌疑人515名。

AI算法工程师文牧告诉「市界」：“现在利用AI技术生成虚假的人脸照片或者视频，成本极其低。理论来说，犯罪分子只需要一个训练好的AI模型和一张受害者的照片就能完成。”

一家AIGC企业的负责人徐亮认为，上述对AI技术的不当运用事件反映出大模型产业的全产业链都亟需规范，“上游例如输入数据的权属，下游例如生成内容的可信、合规等，不仅仅是在国内，在全球AI领域都是需要被重点关注的话题。”