“可信”将是下一代人工智能的根本

科技日报记者 陈杰

“人工智能作为新一轮财富厘革的核心驱动力，正在各个行业、财富中发生着越来越深的影响。而寻找人工智能时代隐私掩护、当局监管、商业诉求的平衡点，已经成为产学研各界迫切需要解决的问题。可信AI的理念逐渐成为全球共识，也成为未来人工智能财富健康成长的必由之路。”科技部高技术研究成长中心研究员嵇智源在2021全球人工智能技术大会可信AI专题论坛上暗示，人工智能中数据收罗、传输、共享的安详可信不只是技术层面的问题，人工智能的“可信”，也需要成立一系列相应的法令、规则、尺度和社会伦理准则予以保障。

人工智能时代，信息数据作为有价值的资产，在数据的收罗、传输、存储和共享等各个环节都面临着新的安详风险与挑战，同时数据的隐私安详问题也是数字经济成长、社会组织处理、商业业务价值缔造急需解决的痛点。可信AI就是确保AI公平性、可解释性、健壮性和透明性，确保算法可被人信任。

2021全球人工智能技术大会可信AI专题论坛现场 。本报记者 陈杰 摄

作为2021全球人工智能技术大会的重要分论坛，6月6日召开的可信AI专题论坛由中国人工智能学会主办，同盾科技承办，常识联邦产学研联盟(AKF)协办。论坛邀请了当局、学术界及人工智能领军企业代表，深入探讨下一代可信人工智能的机遇、挑战与实现路径。

中国工程院院士、浙江大学传授潘云鹤暗示，人工智能已经迈入2.0时代，其在大数据智能、群体智能、跨媒体智能、人机混合增强智能、自主智能系统五大成长偏向的重要性和影响力已开始展现。在规划及财富的敦促下，这五个偏向和5G、工业互联网、区块链一起正在形成更多新技术、新产物、新业态、新财富，使得制造过程更智能，供需匹配更优化，专业分工更精准，国际物流更流畅，从而引发经济布局的重大厘革，发动社会出产力的整体跃升。“在AI走向2.0的成长中，数据和常识是两个最重要的关键元素。处置惩罚大数据和处置惩罚多重常识，形成了AI成长的两类核心技术。而常识联邦作为一项我国原创、自主可控的技术，其设计理念受到了人工智能成长历史的启发和影响，有望成为敦促大数据智能打破成长的一个重要环节，为中国率先成长下一代可信AI做出贡献。”

据了解，常识联邦是由同盾科技顺应行业成长趋势提出的理论框架，通过将数据转化成信息、模型、认知和常识，操作先进的密码学技术，满足数据不行见，冲破数据孤岛；同时，为了保障联邦生态构建过程可知、数据安详交换等核心问题，实现数据价值。

“常识联邦并不是一种单一的技术办法，而是一套理论框架体系，是人工智能、大数据、密码学等几个范围交叉融合的产品，使其可以以更合规的方法来冲破数据孤岛，在操作数据的同时，做到掩护数据隐私。”同盾科技合伙人、人工智能研究院院长李晓林传授暗示，当初产学研界联合创立AKF常识联邦产学研联盟的初志，则是但愿能够发挥平台感化，助力买通差异机构、差异组织间的常识或数据分裂，堆积跨行业的各方力量，联合开展常识联邦多层级的理论、技术、协议、尺度和财富研究，共同探索常识联邦的基于多方数据进行安详的常识共创、共享和推理的新模式。

论坛上，光大银行智能风控中心、中科院深圳理工大学(筹)计算机科学与控制工程学院、中国科大计算机学院加盟常识联邦产学研联盟，意在共同构建常识联邦优质生态，协同推进可信AI技术成长与创新应用。

潘云鹤院士认为，针对可信AI必需解决数据安详、小我私家隐私以及社会安详等的问题，常识联邦将数据转化成模型或常识，满足数据不行见，再通过联邦的方法实现数据可用。“常识联邦从信息层、模型层、认知层和常识层等多个层级掩护数据隐私，到达数据‘可用不行见’‘常识共创可共享’的方法，打造安详可信的下一代人工智能。”