作为新一轮科技革命和产业变革的核心驱动力，当前人工智能产业发展迅速、备受关注，同时合规治理也极具挑战性。中国工商出版社、对外经济贸易大学数字经济与法律创新研究中心、倍投法于2024年4月12日举办了《智能新纪元：生成式人工智能的发展与治理》新书发布活动，就当前人工智能产业发展的前沿趋势、治理态势等进行了主题讨论。来自人工智能相关企业、研究机构、法律合规机构、监管部门等人士参加。
倍投法合伙人林熙翔
欢迎各界来宾以及主持本次研讨会
倍投法主任张继平致辞
一、出版初衷：在制度这条赛道上能为国内的人工智能发展提供什么？
“当今全球人工智能的竞争，不仅仅是技术和产品的较量，更是制度之争。在这场关乎未来发展的制度竞赛中，法律人能为我国人工智能技术和产业进步提供怎样的助力？我们应当营造一个什么样的制度环境，才能确保人工智能在高质量发展和高水平安全间实现良性互动？这是一个长期而重要的课题，也正是编写本书的初心所在。”
对外经济贸易大学数字经济与法律
本书主编、对外经济贸易大学数字经济与法律创新研究中心主任张欣在发布会上详细介绍了该书的编撰缘起。她表示，图书所收录的文章对上述问题进行了深入思考和解答，并就相关议题提出了真知灼见。通过分享书中的精华观点,她阐明了法律制度在推动人工智能健康发展中的关键作用，以及构建良性治理生态的重要意义。
《智能新纪元：生成式人工智能的发展与治理》一书由20余位长期耕耘于人工智能领域的理论与实务专家共同写成，并得到学界、产业界等多位专家力荐，一定程度上凝聚了当下学界、产业界的共识。书中重点对国内外监管治理态势、人工智能企业的合规与风险管理、相关技术的落地应用及风险等问题进行分析，为未来的监管治理、合规发展提出了有价值的参考。
在“生成式人工智能的产业发展：洞察与趋势”环节，嘉宾们从不同维度探讨了生成式人工智能当前和未来的产业发展动态。
中国人民大学高瓴人工智能学院准聘助理教授林衍凯认为， 人类智能具有工具使用与分工协作两大关键特性。与之对应的，在ChatGPT的基础上，人工智能已经发展出了大模型自主智能体。OpenAI、Google等陆续发布的项目已经证明大模型能够模仿人类使用外部工具，达到了接近乃至超越人类的工具使用性能，达到工具智能。在其基础上，迈向通用人工智能需要做到的就是通过任务分工与协作来执行复杂任务实现群体智能，如清华的ChatDev、斯坦福AI小镇、人大RecAgent等。
微软全球助理法律顾问、微软亚太研发集团法律事务部总经理罗立凡表示，微软和Open AI的合作取得了阶段性的成功，生成式人工智能的应用已从简单的搜索问题向垂直领域深耕，未来将会融入到所有的领域。他认为2024年人工智能有三大发展趋势。一是小语言模型，它可以在设备上离线运行，在执行具体任务上，通过使用高质量数据训练，在特定的垂类领域达到与大语言模型相当的性能。二是多模态人工智能，包括图象、视频、音频通过一个接入口就可以提供服务。三是助力科学研究，以加快科学发展速度。虽然难以预测人工智能今后的发展，但可以确定会带来各行各业变革式的改变，大大提升效率。
抖音集团法律研究总监李颖提出，AI Agent的发展方向有两种：一是类似于人的“功能性”，如协同办公；二是类似于人的“社会性”，如在虚拟世界的互动。在商业化实践上有三种方向：一是垂直领域的Agent产品；二是通用助理类的Agent产品；三是Agents应用开发平台。AI Agent的未来趋势短期来看，在垂直领域的应用落地更快、早期有技术积累的厂商将引领行业标准、操作系统厂商预计率先实现实质性突破。长期来看，AI Agent未来会有更多的自主性，并基于协同性的提高涌现超级个体和超级个体公司；AI Agent会促进基础设施的实现，平台会成为一个重要的载体；最后，她还分享了关于AI Agent的三点法律思考。
副研究员、《AI赋能超级个体》作者翟尤，认为当前全球AIGC行业格局尚未确定，细分应用型公司竞争激烈，不同公司都在尝试跨越多个细分场景或者模态，今年下半年多模态将成为“标配”。从产业发展形态上，他认为目前海外产业发展呈现“倒三角”形态：底层算力层由个别厂商垄断；基础模型层趋于集中于头部企业；行业模型层企业数量不多，很多会参考开源底座；应用层基于纯API调用制作产品的企业数量十分庞大。国内产业发展则呈现“橄榄型”：底层的优质算力企业数量极少；最上层基于API调用制作产品的企业数量也比较少；处于基础模型和行业模型的企业数量较多。
倍投法知识产权合伙人贾媛媛律师
在“生成式人工智能的治理挑战与应对”的主题讨论环节，嘉宾们探讨了当前人工智能治理的状况以及面临的挑战。
中国信息通信研究院政策与经济研究所高级工程师，AIIA政策法规工作组秘书长程莹，对人工智能带来的变革性影响有四个判断：一是AIGC作为新型生产工具，革新内容生产方式。二是AIGC应用加剧各方数据资源竞争博弈。三是AIGC将革新人机交互形式，迈向人机共生新阶段。四是部分AIGC作为通用目的技术，成为经济社会底层基础设施。对于AIGC带来的风险挑战，她认为一方面体现为原有风险的叠加放大，比如技术自身缺陷、版权追责困境、伦理问题等；同时还在于新的突出问题，比如在生物合成、化学、核能（CBRN）等领域带来的风险等。
淘天集团法务部数据合规负责人顾伟，认为从大模型这几年的发展趋势来看，对数据的需求量是越来越高的，而只有到一定数据级，模型对某些问题的处理性能才能呈现快速增长。同时在数据类型上，早期模型的训练数据以网页数据、图书、代码等为主，随着多模态的发展，数据内容多元化的趋势更明显，而随着人工智能应用的普及，对不同领域数据集的要求也会更多。他认为，在训练数据的合规使用上，目前法律的要求比较原则，为更好地促进人工智能产业创新发展，通过知识产权合理使用规则创新，和个人信息的合理使用，保证训练数据的数量、质量和多样性非常重要。
倍投法合伙人傅鹏针对生成式人工智能运营中的具体合规问题做了分享。比如针对调用或接入境外大模型的场景，他认为两类情况会构成向境外传输数据，需要落实相关合规申报义务。一是自用型跨境场景，如企业调用境外大模型来完成企业内部的数据处理活动；二是服务型跨境，如企业在产品中嵌入了境外大模型的接口，当境内用户使用产品特定功能时，企业会将有关数据传输到境外，调用境外的大模型。针对备案问题，他认为实践中是有一些场景不需要进行备案，比如企业内部调用大模型生成代码，但作内部研发使用，不涉及舆论场景；还比如针对专门领域的特定受众，调用大模型生成了结果，如生物医药企业进行的一些数据生成和分析。
在“如何统筹生成式人工智能的发展与安全”的圆桌讨论中，嘉宾们以对话形式，围绕大模型与版权的关系、大模型适用于自动驾驶的合规等议题展开了讨论。
微软公司高级律师、微软亚太研发集团高级法务总监何淼提出，“在生成式人工智能的版权问题上，确实有一个利益平衡的探索过程。微软在开发相关技术时高度重视版权保护，为保障技术发展和版权保护之间平衡不断进行了尝试。我们的Azure OpenAI服务具有Content filtering的功能可以进行版权保护和降低侵权的风险。此外，如果使用了我们的工具仍然面临侵权诉讼，微软承诺为客户提供抗辩支持。”某人工智能企业大模型合规法务吴少卿对于很多模型公司不主张对AI生成内容拥有版权的原因，特别提出了三个理由：一是版权难以争取，关于生成内容的版权归属目前仍存在法律不确定性；二是现有很多商业模式不依赖版权来获利；三是避免拥有版权可能带来的法律责任。某科技集团数据合规执行总监朱玲凤指出，数据是模型训练的基础，而其获取路径取决于模型的训练目标和方向。在使用开源数据前，需要仔细评估其匹配的开源协议。不同于开源软件，模型开源包括了数据集、代码和模型，且考虑了个人信息保护和版权影响。比如Bigcoder提供版权过滤器，允许用户请求移除其贡献的代码，能确保其内容不被用于训练数据。除了开源，也可以考虑隐私计算工具。比如G7在近期提出了利用合成数据实现医疗数据打通，可以识别特定区域的疾病增加，可能与环境因素有关，也可能识别到某地区医疗资源不足等问题。通过合成数据可以保障在原始数据的分布比例基础上实现数据的可用性，同时通过合成来解决个人信息保护的问题。理想汽车法律研究运营负责人田喜清指出，构建中文语料库对于提升生成式人工智能的训练质量至关重要。微软公司高级律师、微软亚太研发集团高级法务总监何淼，指出生成式AI的发展依赖于海量数据，这对于技术创新至关重要，数据的限制可能在提升安全性方面有所帮助，但是怎么掌握平衡也是很重要的。某人工智能企业大模型合规法务吴少卿认为，人工智能产业分工日益细化，复杂的产业生态导致责任分配变得尤为重要，随着场景的丰富和角色的多样化，明确每个参与者的责任和自由度至关重要。他认为在数据处理和知识产权的角色及责任关系上，尤其是在内容安全方面，服务提供者通常应承担主要责任，但模型厂商在某些情况下也需提供技术支持。嘉宾们一致认为，短期内人工智能已经开始带来实际的效率提升，AI的发展将使一些重复性的工作减轻，而创造性的工作将变得更为重要。AI的广泛应用可能会打破传统的职业界限，促进跨领域协作，并改变我们与同事及技术的互动方式。我们应该拥抱AI技术的发展，学习如何有效利用AI工具，准备好迎接未来可能带来的职业角色和工作流的变革。
京公网安备110105011258