随着人工智能技术的飞速发展,生成式人工智能服务已经深入到我们生活的各个角落。从智能客服到内容创作,从教育到医疗,生成式人···
2025-05-16直播成为当下的热门,也因此很多人把它当成了一种职业,但别小看了这些主播们,当红主播月收入10万那都是小事,不过广电总局要求···
2021-12-26今天众森企服给大家聊一聊人力资源行业相关的许可资质,人力资源行业相关许可证比较常见的有两个,一个是《人力资源服务许可证》···
2021-12-26一、大模型备案和登记的背景及意义
1、大模型备案和登记的背景
在人工智能技术快速发展的背景下,生成式人工智能服务的广泛应用引发了社会各界的关注。这些服务在为人们带来便利的同时,也可能带来数据泄露、隐私侵犯、算法偏见等问题。为了应对这些挑战,国家相关部门出台了《生成式人工智能服务管理暂行办法》,明确了大模型备案和登记的要求。
2、大模型备案和登记的积极意义
保障数据安全:通过备案和登记,监管机构能够全面掌握模型的基本信息和使用情况,从而保障数据的安全性和隐私保护。
确保合规性:备案和登记要求企业披露技术细节,确保其应用符合相关法律法规,维护市场秩序。
提高透明度:备案和登记制度提高了技术的透明度,增强了用户和公众对人工智能技术的信任。
促进健康发展:规范化的管理有助于推动生成式人工智能服务的健康发展,避免因技术的不透明或不合规而导致的市场失衡。
二、国内大模型备案和登记情况
截至2025年3月,国内总共通过了大模型备案505个,其中大模型服务备案345个,占比68.32%,大模型登记备案159个,占比31.48%。从地域分布来看,北京、上海和广东在大模型备案数量上遥遥领先,分别通过了151款、140款和53款大模型备案。
三、大模型备案和登记是什么?
根据《暂行办法》及相关指引文件,大模型相关的合规路径主要分为“备案”和“登记”两种。准确理解二者的定义、适用情形及区别,是企业合规的第一步。
1、大模型备案(生成式人工智能服务上线备案)
定义: 大模型备案,通常指的是生成式人工智能服务上线备案。根据《暂行办法》,“提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续”。这意味着,如果一个组织或企业自主研发并直接向公众提供具有潜在社会影响力的生成式AI服务,就需要进行大模型备案。
适用主体: 主要是指生成式AI服务的原始提供者,即那些研发、训练并运营基础大模型,并直接将其能力开放给公众使用的企业或机构或者利用已备案的模型进行私有化部署,二次开发并训练并对公众提供服务的企业或者机构。
核心要求: 强调对模型本身及其服务的全面安全评估。除了算法备案的相关手续外,通常还需要进行专门针对生成式AI的安全评估。
举例说明:
某科技公司自主研发了一个通用的对话式大型语言模型,并将其封装成一个公开的聊天机器人App或网站服务,用户可以直接与之交互,讨论各类话题(包括可能涉及社会热点、公共政策等)。由于该服务直接由模型研发方提供,且具有潜在的舆论属性,该公司需要为其大模型服务进行备案。
一家AI研究机构开发了一个先进的文生图模型,并计划推出一个允许公众输入文本描述来生成图片的在线平台。该平台的服务直接基于第三方模型进行二次开发、训练的,同样需要进行大模型备案。
2、大模型登记
定义: 大模型登记,指的是“网信部门会同相关部门按照《生成式人工智能服务管理暂行办法》及相关要求,对通过API接口或其他方式直接调用已备案大模型能力,且面向境内公众提供具有舆论属性或者社会动员能力的生成式人工智能服务开展登记工作”。简而言之,如果一个组织或企业本身不研发基础大模型,而是调用了他人已经备案的大模型的能力,并利用这些能力构建了面向公众的、具有潜在社会影响力的生成式AI应用,那么它就需要进行大模型登记。
适用主体: 主要是指生成式AI服务的应用提供者或开发者,他们基于第三方已备案的基础模型,通过API调用或其他方式进行封装、优化或集成,形成新的应用服务。
核心要求: 重点在于确保对已备案模型能力的调用是合规的,并且上层应用本身也符合安全管理要求。通常情况下,对底层已备案模型的重复性安全评估要求可能会有所简化,但应用层面的安全责任依然存在。
举例说明:
一家电商公司希望提升其在线客服的智能化水平。它选择接入一家已完成大模型备案的AI公司的对话API,并基于此API开发了一个能够与顾客进行自然交互、解答售前售后问题的智能客服系统。该客服系统通过电商平台的网站和App向公众提供服务。尽管电商公司本身不拥有底层大模型,但由于其利用已备案模型提供了具有社会互动性的服务,因此需要为其智能客服应用进行大模型登记。
某教育科技公司利用一个已通过备案的第三方文本生成大模型的API,开发了一款辅助写作工具,该工具可以帮助学生润色文章、提供写作建议,并通过在线平台向广大学生用户提供。该公司同样需要为其写作工具进行大模型登记。
3、大模型备案和登记主要区别总结
2024-04-05
2022-02-10
2021-12-26
2021-12-26
2021-12-26
2021-12-22