在过去的一年里，东莞公厕停用人脸识别厕纸机、售楼处暗中使用人脸识别区分客户、“外卖骑手困在系统”、在同一外卖平台会员的配送费比非会员高等多个热点事件频频引发民众对于人脸识别等新兴人工智能应用、算法的讨论。

　　2021年全国两会召开在即，民进中央也关注到人工智能产业的发展问题，拟提交《关于推动人工智能产业健康发展的提案》，建议加强对算法的监管，建立算法开发者责任制，同时要充分保障个人和国家的信息安全。

　　提案中写道，技术革新带来了“算力”的垄断和集权，但监管部门对算法的监管不足。近年来“困在系统里的外卖小哥”“大数据杀熟”等现象频发，反映了大企业以资本驱动占据绝对市场，借助数据搜集的绝对优势，迅速提升算法，然而主管部门对企业算法的合理性、公平性、合法性缺乏审核和评判。

　　“以外卖企业为例，对订单完成速度设定的算法基于骑手每次送餐数据上传并每次都稍有缩减，不断倒逼骑手铤而走险，监管部门仅从道路安全角度加以监管，却无法实现源头上对‘算法’的监管。”

　　此外，提案还提到人工智能行业在搜集、存储和使用数据的过程中，存在侵犯个人隐私、滥用个人信息的现象，而在新兴技术领域，现有法律很难为个人信息保护提供具体依据。

　　民进中央指出，为发展人工智能而搜集的海量数据由于缺乏约束，往往成为各个企业的私产，缺乏面向用户的保护维权机制。以智能驾驶技术为例，一些企业推出的智能驾驶服务算法，在升级时需要海量真实路况信息，其中涉及大量用户信息的搜集、储存和使用。

　　“虽然《民法典》从基本法层面强化了对隐私权和个人信息保护，但《消费者权益保护法》《网络安全法》《道路交通安全法》等受制于各自的立法目的和适用范围，面对智能驾驶这一飞速发展的新技术领域，均难以从法律法规层面为个人信息保护提供具体依据。”

　　民进中央还关注到数据的跨境传输可能给国家和个人带来的重大风险，如苹果手机、特斯拉汽车、思科交换机等均可视作信息搜集和上传的终端，目前尚未得到充分的管制。

　　基于此，民进中央建议前置信息立法、完善行政监管，建立算法开发者责任制。具体而言，提案建议进一步完善个人信息保护、道路交通安全及相关部门法，研究出台人工智能专项法律法规，以保障个人信息和公共信息安全。同时，明确人工智能企业遵循合法、正当和必要原则，对所搜集信息经过缩小化、加密化处理成为匿名信息后方可纳入数据产权。

　　此外，考虑到政府配置同等的技术力量来评估算法，需要耗费的成本巨大且不具可行性，民进中央建议推动算法开发主体“责任自负”机制，对造成不良后果的算法应视严重程度定责量刑。

　　而从长远来看，提案建议需针对人工智能技术发展，建立对个人信息保护的行政监管机制，促进人工智能行业自律机制的形成和发展，探索对个人因信息泄露、算法不当而遭受不法侵害的情况给予充分多元的法律救济。

　　提案还建议，应在平台上预防关键垄断，充分保障个人信息和国家信息安全。对中控系统、传感器，参照贵州云上作为中国苹果用户数据中心的做法，针对境外独资的、涉及境外存储数据和处理运算的跨国物联网企业，将面向中国用户的数据中心迁入我国，使我国在本国数据产权和安全上获得主动权。

　　值得一提的是，提案还从技术的角度进一步提出了建议。民进中央建议我国应该在技术上掌握主动权，主动参与数据开发、流通、共享等国际法则的制定，打破数据壁垒，通过“数据安全岛”的平台建设，推动数据联合建模商业化背景下的匿名化、脱个人化的迁移处理用于算法升级，实现“可用不可见”前提下的数据资源安全共享，使得参与者公平分配受益，进而推动我国人工智能产业健康发展。

　　采写：南都记者潘颖欣