第一章:《人工智能治理的愿景和框架》

数据已成为国家重要的战略资源、新型的生产要素，数据的开发流通是人工智能高速发展的命脉，也是数字经济高质量发展的新动能。如何在数据隐私保护与开发流通之间保持平衡，最大发挥数据要素的潜在价值，是推动要素市场化配置及人工智能健康发展的重大挑战。

一方面，人工智能是建立在数据之上的赋能技术，只有全面提升数据安全能力，才能为人工智能可持续发展保驾护航。另一方面，人工智能技术为发挥数据优势提供新动能，例如，隐私增强技术等新技术实现了“数据可用不可见”、“数据不动算法动”等数据不出域的效果，促进了数据安全和数据流通的协同发展。

只有在各个数据环节中充分考虑安全风险，才能更好地应对由于数据流动性、多样性、可复制性等新要素特点带来的挑战。在数据采集时对数据源进行权属鉴别和记录，防止数据仿冒和恶意数据侵入；在数据分析中建立针对特定数据的脱敏机制，避免原始数据被技术手段复原；在数据处理过程要建立数据正当使用的责任及评估机制，保证收集、使用数据的合法、正当、必要性，避免数据被滥用、非授权使用；在数据资产管理中建立组织的数据质量管理体系，保障数据采集中数据的准确性、一致性和完整性，应对人工智能算法需要有质量数据的需求。

阿里巴巴制定包括《阿里巴巴集团数据安全规范（总纲）》和配套23个执行制度或规范；搭建专门的集团数据安全组织； 在技术工具方面，阿里巴巴自研了数据分类分级、敏感数据识别、数据脱敏、数据安全审计、数据流转监控、堡垒机、4A（统一安全管理平台解决方案）等数据安全工具。

此外，借鉴多年的数据安全实践，阿里巴巴联合产学研各界力量，合力沉淀出GB/T 37988-2019《信息安全技术 数据安全成熟度模型》国家标准，该标准从组织建设、制度流程、技术工具和人员能力等各维度，涵盖数据采集安全、数据传输安全、数据存储安全、数据处理安全、数据交换安全、数据销毁安全、通用安全七大环节共30个PA（过程域）进行详细阐述，可作为组织开展数据安全能力建设的依据。

目前，该国家标准已得到广泛采用，在全国20多个行业、数百家企事业单位获得了深入实践和应用，有效提升了全行业的数据安全水位。

2022 年 4 月 10 日，《中共中央国务院关于加快建设全国统一大市场的意见》明确规定加快培养数据要素市场。数据作为新兴生产要素，能够促进数字经济的持续发展，加速数据流通利于激发数据要素价值。构建数据要素市场需要统筹数据安全与发展，这需要在保护用户隐私、确保数据安全的前提下，促进数据流通，实现数据的高质量利用。对此，可以从以下三个方面进行探索。

数据是连接用户、企业、社会的纽带和桥梁，数据跨主体流通能够帮助企业了解用户需求，通过“数据从用户来、服务回用户去”的方式，让企业为用户提供更好的数字化服务。数据流通中的安全问题不是绝对的，企业对数据承担的责任也不是无限的。

《数据安全法》设立了数据分级分类保护机制，域外国家的立法也确立了企业对数据保护尽职免责制度，完善相关规则可以帮助企业确立在不同场景和条件下对不同类型数据的保护范围和具体要求，在加强数据保护的同时也对自身承担的数据责任形成有效预期，让企业在做好数据安全保障的基础上更放心的将数据投入要素市场，发挥更大作用。

用。

隐私增强计算的一个典型人工智能场景是医疗模型训练：科研机构需要从多个医疗机构处汇聚大量医疗信息进行人工智能建模，才能顺利开展致病性分析等工作，但是基因等医疗信息又与个人隐私密切相关，不适合直接跨机构传播。一种可能的解法是同态加密：机构对基因信息进行同态加密之后传递给科研机构，然后科研机构不需要解密即可在基因信息之上进行致病性建模等分析。

在国际上，iDASH竞赛是专门探索解决云环境下海量基因组分析期间的数据隐私和安全性问题的赛事，目前也是国际上在隐私计算方面最高规格的竞赛，足以体现隐私增强技术在基因组数据安全分析场景的重要性，2019 年阿里巴巴在该竞赛中取得了一等奖。