全国政协委员、金杜律师事务所高级合伙人张毅：加快人工智能法出台构建我国AI产业监管治理体系|张毅_新浪财经

专题：重磅！2024全国两会财经界委员代表提案议案（搜索版）

　　全国政协委员、　　金杜律师事务所高级合伙人张毅

　　全国政协委员、金杜律师事务所高级合伙人张毅：

　　加快人工智能法出台

　　构建我国AI产业监管治理体系

　　◎记者高志刚

　　“我非常关注人工智能产业的发展。算法、算力和数据是人工智能产业的三大要素，去年全国两会我的提案关注了数据问题。两会结束后不久，我就开始酝酿算法治理体系的提案。去年下半年，我针对先导产业组织了多次调研，形成的专报之一涉及算力问题。”近日，全国政协委员、金杜律师事务所高级合伙人张毅在接受上海证券报记者采访时说，“这次历时近一年的研究和调研后形成的算法提案，是我长期以来关注人工智能产业‘顺理成章’的成果。”

　　他告诉记者，今年全国两会他还将提交多份提案，除了继续为人工智能产业的发展和规范“鼓与呼”之外，他还关注了多元解决纠纷机制等热点问题。

　　算法频现伦理和法律问题

　　继ChatGPT之后，Open AI于今年2月又发布了文生视频大模型Sora，“万物互联、人人在线、事事算法”的人工智能时代已经到来。由此，算法技术全面步入应用阶段，成为数字经济时代发展的新动力。但是，张毅调研发现，伴随着人工智能发展突飞猛进，诸如算法歧视、算法黑箱、信息茧房、算法霸权等伦理和法律问题开始出现。

　　“我和行业内的专家学者、技术人员、监管机构交流，梳理相关的法律法规，了解算法发展和监管现状。”张毅表示，他进行了各种实地调研。他多次叫网约车，目的是和司机聊天，了解系统调度派单背后的逻辑，调研网约车平台调度算法可能产生的问题。“实际上，司机们也是平台算法的用户，他们的使用体验可以帮助我更直观地了解算法的运作形式和问题。”张毅说。

　　“如果看到网约车距离较远，我会立即取消，然后重新下订单。很快我发现，大部分订单派发的网约车离我都比较近了。算法可能对我的画像是‘容忍度较低’。”张毅说道。

　　加快出台人工智能法

　　我国数字经济发展迅猛，如何更好监管人工智能算法，监管手段和能力如何相应提升，对相关产业的发展和国家治理能力现代化至关重要。通过梳理有关算法管理的法律法规，张毅发现，目前我国已经出台的专门性规定法律可执行性不强，而且还存在监管竞合或真空、受算法侵害的用户认定和维权难等情况。

　　为推动我国人工智能产业健康有序发展，张毅建议，应该尽快推进人工智能法的制定和出台，以人工智能法及配套的监管工具为核心，形成完整的人工智能技术法律体系。

　　同时，参考其他成熟的监管思路，将人工智能和算法技术按风险等级进行划分，并针对不同等级采取不同的监管措施。例如，可能会通过潜意识操纵用户的人工智能系统应被直接禁止。

　　考虑到人工智能技术的复杂性和专业性，张毅建议，借助市场力量，外聘或者借调人工智能领域的专家共同参与监管法律体系的建立。同时，参考金融科技行业的监管经验，引入“监管沙盒”制度等创新监管工具，对于原有监管制度存在空白或不明确的，在一定条件下，允许企业进行试验性的开发、测试和验证。

　　“强化由网信办牵头，国家发展改革委、工业和信息化部、公安部等部门共同参与的算法治理联席会议制度，也是必不可少的。”张毅说。

　　张毅还建议，在算法侵权的诉讼中采取“过错推定”的归责原则，并实行“举证责任倒置”。用户仅需承担证明自身受到算法服务损害的证明责任，由算法服务提供方对算法服务和用户的损害结果之间不具备因果关系，以及不存在主观过错承担举证责任。