论坛 | 数据安全：人工智能健康发展的核心命题
在云计算、大数据、机器学习、深度学习、人脑芯片等新一代信息技术的推动下，人工智能正以前所未有的速度、广度和深度融入社会生活的各个方面，成为全球新一轮科技革命与产业变革的发力点和着力点。人工智能时代，海量的数据将得到充分利用，因此，人工智能时代也被称为“数据驱动”时代，而利用海量数据实现巨大的商业和社会价值，已经引起广泛关注。我国于2017年颁布了《新一代人工智能发展规划》，将人工智能定义为国际竞争的新焦点和经济发展的新引擎，将其正式提升至国家战略的高度，为新一代技术的研发、应用和推广提供了坚实的后盾。同时，该规划也明确提出，人工智能发展过程的不确定性将对法律秩序、伦理秩序、个人隐私等带来巨大的风险和挑战。
一、数据安全是人工智能安全的核心
在人工智能技术日新月异的时代，尽管人工智能在很多领域得到成功应用，但是，数据的安全管理滞后于技术的发展的现实，也引发人们的担忧。
人工智能的核心是数据，数据是人工智能时代生产资料和生产工具的集合，是经济社会发展的重要生产要素和国家基础战略性资产。一方面，海量的数据推动人工智能的发展；另一方面，人工智能也可以提高数据采集管理能力和数据挖掘利用水平。目前，政府和企业的决策越来越依赖大量的数据分析，包括政府经济、社会统计、企业商业营销等，大规模的数据收集、分析和使用，使传统社会走向透明化，同时，也伴随隐形的数据安全隐患。
数据安全是人工智能安全的关键与核心，数据的质量和安全直接影响人工智能算法和模型的准确性。人工智能的数据安全涉及技术、社会、法律等多个领域，一旦发生数据安全问题，其影响范围很难控制，不仅仅对公民个人，而且对企业、国家都可能造成难以估量的损失。海量数据又是人工智能时代数据的普遍特征，其在数据管理、应用等方面与传统数据安全显著不同，需要针对这些新情况、新问题研发针对性的数据安全防护技术，保证信息安全。
二、对人工智能数据安全的认识有待提升
各行各业对数据的重视程度很高，都在利用数据进行相关的分析和挖掘，从而做出最佳的决策。然而，对于人工智能的数据安全，当前普遍存在认识不足、保护不周的情况。
个人的数据安全保护意识有待提高。在网络平台随意注册账号，浏览不正规网站、下载未验证软件、有意无意传播个人信息，为获取个人利益而非法窃取、售卖他人信息等，网络用户的不规范行为屡见不鲜。
企业的数据安全保护有待加强。由于人工智能相关技术发展处于早期阶段且发展迅速，全球范围无论是大型科技企业，还是初创企业，投入大量资源开展人工智能技术的开发和应用研究，但是，企业对人工智能数据安全问题重视不够，除非出现数据泄露事件。
数据安全保护法律法规有待完善。面对人工智能数据的复杂性、多场景、多应用、信息交叉使用等特征，现有数据安全法律制度有待继续跟进更新。对人工智能时代网络环境的变化和数据泄露的多渠道性和多样性，现有的法律没有给予充分的认识。
数据安全缺乏有效的监管手段。人工智能技术存在算法黑箱，具有明显的不确定性，而数据安全的监管无法跟上人工智能技术的进步和发展，容易带来数据安全的隐患。人工智能更加依赖数据，而数据在交叉引用过程中是否被污染，变得愈发难以鉴别。
三、人工智能数据安全面临的机遇和挑战
1．人工智能数据安全面临的机遇
促进数据安全治理的智能化和精准化。人工智能技术可以将数据安全研究人员从海量的威胁数据分析中解放出来，通过监测威胁可以迅速发现、分析和响应新攻击和新漏洞，实时共享威胁情报，实现系统自动防御修复，从而有效地推动数据安全治理更加自动化、智能化、高效化和精准化。
提高动态变化数据安全的监测防护。人工智能自动学习和自主决策能力可有效缓解现有数据安全技术手段对专业人员分析判断的高度依赖，实现对动态变化数据安全风险的自动和智能监测防护。
丰富数据安全的处理手段。人工智能卓越的海量数据处理能力，可有效弥补现有数据安全技术手段数据处理能力不足的缺陷，实现对大规模数据资产和数据活动的高效、精准管理和保护。
推动社会经济的数字化转型升级。人工智能技术赋能数据安全的监测防护，能够更大程度上助力数据大规模的安全应用，人工智能技术将有力推动经济社会的数字化转型升级。
2．人工智能数据安全面临的挑战
网络信息安全威胁加剧。无论是消费互联网还是社交互联网，个人信息将更多地保存和暴露在服务器上，虽然服务器会进行一定的数据安全防范，但是，这仍不可避免面临被攻击的风险。近年来，网络诈骗或电信诈骗案件持续高发，这类诈骗案件就是公民个人信息泄露带来的后果。
网络攻击形势更加严峻。人工智能大数据的特性使数据的价值密度有所下降，海量数据增加了数据安全防护的难度，数据安全人员若想从海量数据中寻找监测出具体的安全威胁，将变得难上加难，而当前的数据安全技术已经不能满足其需求，这使网络攻击更加容易。
法律法规与监管问题突出。人工智能技术的应用给传统行为带来强烈的冲击和挑战，例如，以往在金融服务领域应用的人脸识别技术，虽然其安全性比传统的认证方式有所提高，但是，仍不能保证准确率达到100%，当出现错误时如何处理，造成的损失由谁承担等，往往很难界定。此外，人工智能的新应用、新商业模式层出不穷，相关法律法规的跟进、修订与制订等问题，显得更加突出。
四、建立健全人工智能数据安全规范体系
引导形成人工智能伦理规范。一方面，针对我国人工智能相关机构、行业和企业发布的人工智能伦理规则规范，加强宣传力度，扩大影响范围，提升人工智能用户尤其是青少年的数据保护意识。另一方面，通过国际组织和平台，积极开展国际合作与对话，推动形成广泛共识的国际人工智能数据安全伦理规范。
健全人工智能数据安全法律法规。一方面，明确人工智能数据安全的法律原则，建立人工智能数据安全的问责制和救济制，推进人工智能相关法律的出台。另一方面，参照国家现有法律体系，根据人工智能在不同场景中的应用特点，制定和细化相关规章制度，提出对人工智能应用过程中数据安全的要求。
完善人工智能数据安全监管手段。一方面，依照国家法律法规，通过线上线下多种方式对人工智能数据安全风险进行监督检查，以便及时发现和防范安全隐患。另一方面，依托行业协会组织或第三方机构，建立人工智能数据安全检测评估平台，提升人工智能产品的安全性，降低人工智能数据安全风险。
健全人工智能数据安全标准体系。一方面，在我国人工智能安全标准框架下，加快研制数据安全标准体系，制定人工智能数据安全标准推进计划，推进人工智能数据安全评估和保护工作。另一方面，成立以国家信息安全标准化技术委员会牵头的人工智能安全研究组，有序推进人工智能数据安全标准的出台。
创新人工智能数据安全技术方法。一方面，完善人工智能开源学习框架，构建保障数据安全的人工智能基础研发平台，加快培育自有人工智能开源平台共享应用产业链和生态圈。另一方面，鼓励相关企业发挥自有优势，成立联合实验室，开展人工智能技术在数据安全领域的应用研究和产品技术研发。
培养人工智能数据安全高端人才。一方面，鼓励高校形成人工智能与信息安全交叉学科的人才培养模式，壮大师资队伍，同时，鼓励企业内部创办培训机构，或采用校企联合的方式，加强培训培育。另一方面，出台人工智能数据安全高端人才引进政策，支持高校和企业引进世界一流人工智能数据安全领军人才。
文│中国信息通信研究院华东分院 满孝颐
（本文刊登于《中国信息安全》杂志2019年第11期）
