关于制订《人工智能管理法》的议案
在当前新一轮科技革命和产业变革深入发展的背景下,人工智能已成为驱动新质生产力的关键力量。习近平总书记强调,“人工智能是引领这一轮科技革命和产业变革的战略性技术,具有溢出带动性很强的‘头雁’效应”。党的二十届三中全会也提出要健全因地制宜发展新质生产力体制机制,完善推动包括人工智能在内的战略性产业发展政策和治理体系。
人工智能在给经济社会带来巨大机遇和利益的同时,也引发了一系列社会经济、道德伦理等问题。虽然我国已出台《生成式人工智能服务管理暂行办法》,但该办法仅针对生成式人工智能,无法全面涵盖人工智能领域的各类问题和应用场景,启动立法研究并制定专门的综合性法律势在必行。为了确保人工智能行业的健康、有序、可持续发展,使其更好地服务于人类社会,同时防范和应对可能出现的负面效应,建议制订《人工智能管理法》。
当前,人工智能技术呈现出爆发式增长态势,其应用场景不断拓展,深度融入经济、社会生活的各个领域,为人类带来了前所未有的便利和机遇。然而,这种快速发展也引发了一系列错综复杂且亟待解决的问题。从社会经济角度来看,部分企业利用人工智能技术虚假宣传、夸大宣传,误导消费者和投资者,扰乱了市场秩序;在道德伦理领域,人工智能系统高度依赖海量数据,在数据收集、存储和使用过程中,隐私泄露风险极高。算法歧视更是成为社会公平的绊脚石,在招聘、贷款审批、司法量刑等关键决策环节,基于有偏差数据训练出的算法,可能会对特定群体造成不公平的筛选和判断。此外,当人工智能系统引发事故或造成损害时,责任界定的模糊性使得受害者难以寻求有效的法律救济。这些问题迫切需要通过完善的立法和有效的监管机制加以解决,以确保人工智能在健康、合理的轨道上发展,造福社会。
一.制订《人工智能管理法》,有利于进一步形成完善的立法体系。
目前,我国虽已出台了一些相关的法律法规和政策文件,如《生成式人工智能服务管理暂行办法》等,但这些规定大多较为零散,缺乏系统性和全面性,难以形成完整的法律框架来覆盖人工智能发展的各个环节和层面。
从技术研发到产品应用,从数据管理到算法规范,从安全保障到责任追究,人工智能的发展需要一部综合性的法律来统筹协调各方面的关系,明确各参与主体的权利和义务,填补现有法律体系中的空白和漏洞,使人工智能领域的法律规范更加严密、科学、合理,从而进一步完善我国的立法体系,为人工智能产业的健康发展提供坚实的法律基础。
二.制订《人工智能管理法》,有利于进一步推动人工智能产业高质量发展。
一方面,明确的数据隐私保护、算法公平性和透明度要求等法律规范,能够为人工智能创新营造一个健康、公平、有序的环境。当企业和科研机构在进行人工智能技术研发和应用时,不用担心因数据隐私问题而陷入法律纠纷,也能够避免因算法偏见导致的社会负面评价,从而更加专注于技术的创新和突破,激发创新活力,提高创新效率。
另一方面,通过法律手段鼓励关键技术突破和创新,如制订税收优惠政策、知识产权保护强化措施等,引导社会资源向人工智能的前沿技术领域倾斜,促进产学研合作,加速人工智能新技术、新产品、新模式的研发和推广应用。
三.制订《人工智能管理法》,有利于进一步增强我国人工智能产业的国际竞争力。
我国作为人工智能发展的重要力量,迫切需要一部具有前瞻性和国际视野的法律,来规范国内产业发展,提升产业整体水平,增强在国际市场上的话语权和竞争力。
一部完善的《人工智能管理法》能够展示我国在人工智能治理方面的决心和能力,吸引国际资本、人才和技术资源向我国汇聚。同时,通过与国际规则接轨,积极参与国际人工智能标准和规范的制定,能够推动我国人工智能企业更好地拓展海外市场,提升我国人工智能产业在全球产业链中的地位,为我国经济的全球化发展提供有力支撑。
方案:
一.立法原则和框架
以提高新质生产力,建设数字中国为目标,统筹规范与促进、保护与创新、发展与安全、当下与长远、国际合作与竞争四方面的工作,科学立法、开门立法。
主要内容应包括总则、人工智能研发管理、人工智能产品与服务管理、人工智能应用管理、责任划分与保险制度、保障和监督、国际合作与资源共享、法律责任等方面的内容。
二.立法重点
一是建立完整的人工智能科技伦理规范体系。建立完整的制度规范体系,为人工智能产品研发设计人员制定道德规范和行为守则,构建人机协作的伦理框架,推动人工智能朝着通用、可信、负责任的方向发展。
二是要建立公开透明的人工智能监管体系。首先,应设立专门的人工智能监管机构或明确现有监管机构的职责,加强对人工智能行业的监督检查。其次,着力提升人工智能模型技术及数据源的透明度,让用户能够深入了解模型的运行机制,进而提升用户对人工智能模型的信任度。最后,制订并严格落实人工智能备案制度,强化审查并定期评估。一旦利益相关者的合法权益因人工智能决策而遭受损害,完善的可解释性机制应能够迅速介入,及时解答用户的疑问,并提供相应的法律救济渠道,切实维护公众的权益。
此外,鉴于人工智能技术的全球化发展趋势,应将在我国境内运营或对我国用户产生影响的外国主体纳入备案管理范畴,确保其同样遵守我国关于人工智能发展的相关法律法规和监管要求,营造公平、规范、透明的人工智能发展环境,推动行业的健康、有序发展。
三是要明确责任主体与责任承担程度。在责任判定中,综合考虑行为人和人工智能服务提供商在侵权行为及损害后果中的实际作用,参考相关法律条款,明确人工智能提供者的高度注意义务,赋予其相应责任义务。根据不同的违法行为或损害后果,制定相应的责任承担方式和程度。
四是要建立健全数据保护与安全机制。规范人工智能所收集数据的使用范围,仅限于在授权范围内用于特定的人工智能研发、优化和应用场景。建立数据共享审批机制,明确数据共享的条件和流程,确保数据接收方具备相应的数据保护能力,并签订严格的数据保护协议。对涉及跨境数据传输的情况,应进行更严格的审查和监管,保障国家数据主权和公民隐私安全。建立数据审计制度,对数据的收集、使用、共享等全过程进行审计记录,以便在出现问题时能够追溯和查明原因,确保数据安全管理的可问责性。
五是要鼓励关键技术突破和创新。重点支持人工智能芯片、深度学习算法、自然语言处理、计算机视觉等核心技术的研究与开发,突破技术瓶颈,提升我国人工智能技术的自主可控能力;制定税收优惠政策,鼓励企业增加研发投入,吸引更多的企业参与到人工智能产业创新发展中来;加强知识产权保护,完善相关法律法规,简化专利申请流程,提高专利审查效率,加大对人工智能知识产权侵权行为的打击力度,保障创新者的合法权益,激发科研人员和企业的创新积极性,营造良好的创新氛围,推动人工智能产业不断创新发展,提升我国人工智能技术在国际上的竞争力。