随着各类大模型的迅速落地，AIGC (Al-Generated Content）产业已然迎来迅猛的价值增长期，但此轮AIGC热潮之下，仍然存在对其数据质量与合规性问题，以及隐私风险的担忧。要实现AIGC产业的良性发展，尚需各界围绕其安全与发展问题进行讨论和解决。

5月17日至18日，“瓯江论数数安中国”2023数据安全发展大会在温州召开,与会专家、企业代表聚焦发展大主题，共同探讨数据安全与发展之路，展望未来数据智能产业发展的新趋势。

在“数据智能安全与发展论坛”，各专家学者以及产业代表展开讨论，其中“AIGC新时代之大模型带来的机遇与挑战”。国家信息中心数据管理与开放处处长刘枝指出，人工智能的大模型的兴起，会带来政治安全、经济安全、科技安全、文化安全、社会安全、网络安全等多个方面的风险，在应对方面，则需从数据、算法和算力等多个角度加强治理。

(资料图片仅供参考)

“大模型”+“智能体”的AI生产模式是未来主流

“百模”大战拉开帷幕，各个领域的人工智能大模型先后涌现。大模型正从效率、质量、个性化等方面为内容生产带来改革，不断解放生产力。

刘枝认为，大模型+智能体的人工智能生产模式将在未来产生更为深远的影响，其高效应用将替代人类完成工作，进而实现人工智能取代人力资源演化为主要生产力。

具体而言，大模型相当于头脑，而智能体相当于四肢，两者结合能完整地形成为人所用的超级助理，从而改造生产力。短期内大模型将颠覆内容生产领域，影响媒体广告、游戏、信息技术等方面；长期来看，大模型+人工智能的智能体可实现“思考”到“行动”的转变，并促进制造业的产业升级、服务业的效率提升和科学研究中新范式的出现。

谈及大模型在行业中的具体应用，科大讯飞AI营销CTO仉乾隆说明了其可能导致工作范式和交互模式上的转变：“工作范式上，使用者的创新意识更为重要。可以把大模型看成一种通用的编译器，如果输入结构化、严谨性、逻辑性较高的内容，其给出的反馈质量也更高。而交互上，类似于ChatGPT的文本交互界面具有很强的推理性，同时也非常简洁，以其为硬件的个人助手普及会逐渐普及。”

在提升交互便利性的同时，AIGC也进一步推动AI走向“决策智能”的阶段，基于海量数据挖掘有效信息并为各类业务进行决策支持，支撑产业持续的创新发展。

AIGC兴起伴生多方面安全风险

AIGC日渐升温，但与会专家也提到，人工智能大模型兴起可能带来的多方面风险不容忽视。

刘枝详细介绍了AIGC在经济、科技和网络安全上的风险：经济安全上，其风险首先表现为对产业基础能力弱化，作为生产力工具，通用大模型的普及程度和速度可能影响我国产业的全球竞争力。此外，产业链地位下降风险和贫富差距增大均是值得关注的问题。科技安全方面主要存在人工智能技术自主可控风险和科技创新范式变革风险，网络安全上，则需注意目前的通用人工智能大模型依然存在许多安全漏洞，提防数据跨境流动时不法分子利用大模型进行网络攻击的可能。

对于AIGC相关风险的控制上，内容合规和避免算法歧视两个难点较为突出。仉乾隆指出，大模型会加载学习网络上不同人群发表的偏见，其随后可能生成存在歧视性的内容。在大模型进行训练所需的数据难以被完全标注的情况下，这对于模型训练的监管是一个非常大的挑战。而随着未来模型的个体化和私有化，相关的监管难度将进一步加大。

刘枝同时也强调，在大模型算法基础之上，对于整体的人工智能设施的安全，也需要进行把关。我国目前的立法还处于算法层面，如何对人工智能设施进行设施级的安全整体规范和要求，属于等待研究的内容。

除了上述提及的风险外，数据安全问题也至关重要，各界都非常关注。

“数据作为要素，必定是跟AI结合产生智能以后，才能够发挥其真正的价值。利用大模型需要充分挖掘数据模型的能力，在此意义上，数据安全是利用大模型时必须考虑的问题。”每日互动CTO叶新江表示。

重视安全以促进AIGC良性发展

可以看到，各国已密切关注AIGC带来的挑战，相关法律法规和标准体系亦在订立中。

4月美国已就人工智能系统的潜在问责措施征求公众意见，而欧盟已于5月11日通过《人工智能法案》提案的谈判授权草案，将严格禁止“对人类安全造成不可接受风险的人工智能系统”，并要求人工智能公司对其算法保持人为控制，提供技术文件，且为 “高风险”应用建立风险管理系统。4月11日，国家网信办也发布了《生成式人工智能服务管理办法（征求意见稿）》（以下简称《管理办法》），规定了生成式人工智能服务的注册、备案、安全评估、运营等方面的管理要求。

从“安全和发展同样重视”的角度制定法律法规之外，促进AIGC的良性发展亦需要相关企业认识到治理的重要性。

叶新江表示，企业更多希望能在适当的监管之下，确保AIGC得到有序的发展。“我相信通过多方的积极合作，包括在各个领域专家对AIGC的深入研究下，监管最终可以实现一个较好的结果。”

刘枝指出，对优质数据的保障是促进AIGC良性发展中另一需要提前布局的路径。刘枝介绍，随着模型会越来越大，优质数据在未来会变得炙手可热。当大模型所需的高质量语料不足时，其发展可能就会遇到瓶颈。目前发布的“数据二十条”内容涵盖数据产权制度、交易制度、收益分配制度和安全治理制度，对于不同类型的数据也规定了相应的使用方法，其核心目的还在于加大数据的高质量供给。

每日互动创始人、CEO方毅表示，《个保法》《数据安全法》的出台，给整个行业构筑了“车道线”“红绿灯”，数据能发挥的效力在这个“车道”上能跑到60码车速，温州数安港的设立就是更好地解决行业确定性的问题，数安港中浙江大数据联合计算中心的打造，相当于为行业修建了封闭的“高速公路”，让数据安全合规加速落地，数据应用的车速也因此可以跑到120码。

浪潮新基建副总经理、CTO江鹏提出：“作为从业者，我们也需要加强自律。大家要联起手来，共同打造安全和发展并重的生态。”

刘枝还指出，要促进AIGC良性发展需要良好的外部氛围。“从国内环境来讲，我们要大力开展数字素养的提升工程，让民众们了解大模型存在的危害性的同时，也知道如何去更好地利用它。同时，我们要积极地、深入地融入全球的数据治理，能够在国际的大模型竞争中抢占自己的话语权。”