独家|密码和AI融合是未来趋势
打开微信扫描二维码，
点击右上角"..."，即可分享至好友或群
党的十八大以来，习近平总书记把创新摆在国家发展全局的核心位置，高度重视人工智能发展，多次谈及人工智能重要性，为人工智能如何赋能新时代指明方向。 人工智能的关键技术、应用优势 人工智能是科学技术发展过程中的一门综合、交叉、前沿学科，是计算机科学的一个重要分支，它与空间技术和能源技术并称为世界的三大尖端技术，同时与纳米技术和基因工程并称为 21 世纪三大尖端技术。在人工智能领域，它普遍包含了神经网络、机器学习、知识图谱、人机交互、自然语言处理、生物特征识别、机器视觉等多个领域的关键技术，其关键技术解决方案具有可验证性、可审计性、可解释性、无偏差性和鲁棒性。 人工智能诞生以来，其应用与发展为人们的工作与生活带来了诸多便利，其在各个领域都得到了广泛的应用,有效地提高了人们的生活质量与工作效率。自2016年起进入国家战略地位，从国家顶层设计方面，已经越来越重视到人工智能作为一项基础技术，能够渗透至各行各业，并助力传统行业实现跨越式升级，提升行业效率，正在逐步成为掀起经济浪潮的新引擎。以“智”图“治”，人工智能将开辟社会治理的新格局；以“智”提“质”，人工智能为高质量发展赋能；以“智”谋“祉”，人工智能造福人类。未来，人工智能的时代即将来临，这个趋势也可以说是“认知的趋势”，人工智能的作用是帮助人类、帮助世界，而非危机危害人类、危机世界。 人工智能的应用安全性问题 人工智能的安全性是十分重要的部分。中国已经成为世界上人工智能发展最快的国家之一，部分指标已居于世界领先地位。但在AI飞速发展的过程中，技术作为双刃剑引发的副作用同样也不可忽视。人工智能发展到一定阶段，总是面临着隐私和安全的冲突。如何选择保护隐私还是公众安全？人工智能应该在怎样安全的框架下发展？AI的达摩克利斯之剑：隐私与安全的远虑近忧如何解决。赋予理想的人工智能准则，需要着眼未来赋予人工智能系统的安全可靠合理性的工作方式。 AI安全是一个十分新的领域， 目前围绕AI安全在三个方面展开讨论： 1. 规范性与准确性：清晰定义系统目的。在AI系统中规范清晰的设计是保证AI系统忠实地执行设计者愿望的保证，而含糊或者错误的定义则会造成灾难性的后果。在AI系统中，一般将规范定义分为了三种类型：a）理想的定义（美好的愿望）：根据假设的描述来定义的理想AI系统，会完全按照人类的意图行事。b）设计的定义（美妙的蓝图）：实际构建AI系统所用设计语言，例如强化学习系统中经常要最大化的奖励函数。c）实际的定义（令人无奈的现状）：这种情况很好地描述了系统的实际情况。这与系统设计的初衷有着典型的不同，主要是由于AI系统并没有被完美优化、抑或是由于设计定义意料之外的结果造成。理论设计与实践应用之间的差异则主要来源于实际运行的现场里。 2. 鲁棒性：保证系统能够抵抗干扰。这一特性将保证AI系统在安全阈值内能够在一定的扰动下持续稳定地运行。这是AI系统在真实世界中运行的固有危险，它经常会受到不可预测的、不确定性的、变化的环境影响，由数据分布改变所造成的鲁棒性问题，测试场景和训练场景不同，使得主体无法达到目标，真实世界应用安全第一，不可无视忽视。 3. 保险性即保证性：监控系统活动。这一特性意味着我们可以理解并控制AI在运行时的操作，将成为AI安全的保证。 密码与人工智能融合是未来趋势 近年来，人工智能助力人类、助力世界，人工智能的应用安全性问题亟需加强重视并解决，密码与人工智能融合能解决安全问题吗？ 原因分析： （一）人工智能的应用安全性亟需信息安全密码保障。我们创造了很多强大的技术在现在和未来将被用于很多关键的领域中。需要铭记在心的是，安全为中心的设计思维不仅在研发和部署的时候，更在科学技术被大规模应用的时候有着重要的影响。尽管现在用起来很方便，但当科学技术算法被不可逆地整合到重要的系统中时，如果没有严谨细致的科学设计，我们将无法有效的处理其中存在的问题。现在研究人员们通过详尽的设计和思考，避免了类似问题和弱点的出现，构建起一个个安全问题的有效框架，在设计和研发系统时可以有效的避免安全问题。希望未来的系统不仅仅是“看起来很安全”，而是鲁棒的、可验证的应用性安全，在安全思想指导下设计制造的。信息安全主要包括系统安全、数据安全。系统安全一般采用防火墙、病毒查杀、防范等措施；数据安全主要采用现代密码技术进行数据主动保护，如数据保密、数据完整性、数据不可否认与抵赖、双向身份认证等。密码学是在编码与破译的斗争实践中逐步发展起来的，并随着先进科学技术的应用，已成为一门综合性的尖端技术科学。它与语言学、数学、电子学、声学、信息论、计算机科学等有着广泛而密切的联系，它的现实研究成果，特别是各国政府现用的密码编制及破译手段都具有高度的机密性和安全性。故密码技术是保障信息安全的核心技术，人工智能的安全性保障同样离不开密码这一核心技术。 （二）密码技术和AI技术如何融合，哪些方面融合、切入点有哪些? 首先要明确人机工作准确定位分工，建立人工智能体系安全架构。 现在发展人工智能完全要建立人机和谐、人机共处、人机协作的未来，我们发展机器人的时候包括发展人工智能都要考虑到，哪些事情让机器做，哪些事情让人类做，安全架构覆盖安全风险、安全应用、安全管理三个彼此独立又相互依存的维度。 密码技术和AI技术哪些方面融合? （1）标准设计先行融合。保证来源于从头开始对于系统的仔细设计来保证不同的元件能够按照我们的想法协同工作，并在部署后可以正常地监控各个部分的工作状态。同时发现并处理近期和长期可能的危险。现在人工智能面临的一些问题，如深度学习涉及的黑箱问题，人工智能通过算法和大数据进行深度学习，演化出“自我意识”，学习到非正能量事务，反噬危害人类危害世界的可能。故制定正能量标准设计亟需先行。 （2）设计理论同步加入信息安全机制和密码基因。在人工智能的深度学习、神经网络、知识图谱、自然语言处理、计算机视觉等环节加入密码算法机制，逐步辨析正非，增强安全可靠性。 （3）人工智能从实践设计初始配用安全性能，赋予人工智能密码保障思维深入学习辨析工作的模式，神经网络中植入密码意识、自我、创新正思维贯穿始终，软件中增加密码算法，硬件（芯片）中增加主动防御机制、增加人机智能接口程序正指令等。 密码技术和AI技术融合切入点有哪些? （1）密码与人工智能体系架构融合在核心环节、关键环节、边缘环节均可作为良好的切入点。核心环节融合切入点即核心层融入，如核心业务算法、多层神经网络、面向深度机器学习加速器的安全加密等，关键环节即关键技术层，如人机合作的智能优化决策技术、语义理解问答感知思考行动环节的安全监控防护（包括网络加密、网络防御、人机交互控制、入侵检测、病毒防护、安全审计等）等，边缘环节融合切入点如辅助设备、传感器、电磁屏蔽等。 （2）具体融合切入点可根据不同情况，人工智能应用深度学习危机意识进行自我保护或人类帮助选择安全等保，也称为个性化定制融合。 密码与AI融合应用优势和展望 目前，世界受疫情影响正在发生着很大的变化，未来是未知的。关注和研究过去、现在、未来都是不可或缺的，偏颇一方面都是不全面的不负责的意识表现。关注反思发生的新冠病毒的发生，是人类忽视的某一方面没有意识到其重要性可能而造成。国家安全离不开网络安全，安全问题不被重视，必然会导致严重后果。国泰民安是人民群众最基本、最普遍的愿望。实现中华民族伟大复兴的中国梦，保证人民安居乐业，国家安全是头等大事，总体国家安全观是新形式下指导国家安全工作的强大思想武器。密码是国之重器，关乎党和国家安全，是我们党和国家的“命门”、“命脉”，习近平总书记高度重视密码工作。密码技术、核技术、航天技术作为国家安全的三大支撑技术，密码作为保障网络与信息安全的核心技术和基础支撑，未来将发挥重要作用。 密码与大数据、5G、区块链的密切融合初见成效。人工智能的建设，提升预测预警预防能力将大大提高，人工智能解放人力将代替很多人的工作，密码与AI还未有效融合，未来人工智能的安全发展离不开网络信息化密码的保障，密码和人工智能的融合趋势必将为国家安全带来更加强有力的保驾护航，为人类发展与自然和谐共生贡献巨大力量。 相信不远的将来，随着密码与AI的深度融合，将会为人类社会带来更大福祉。 注：本文由作者：肖娟（河南省密码管理局）供稿发布，版权归作者所有，非经许可不得转载。
