专家云集 共探新一代人工智能治理新路径

吴红梅 科技日报记者 王春

国外有IBM沃森的医疗AI产物做出了错误诊断并开出不安详药物，国内有杭州动物园产生的“中国人脸识别第一案”……近年来，人工智能治理问题已经成为人工智能成长门路上不行忽视的关键问题。

AI可信专题论坛大会现场 主办方供图

“技术的成长从来都是一把双刃剑，人工智能在给人类社会带来便利的同时也带来新的安详问题及风险。”中国科学院院士何积丰指出。4月12日，“AI可信专题论坛”在上海召开，专家们围绕这一关键性问题展开深入探讨。

“人工智能成长仍旧面临诸多挑战。”京东集团技术委员会主席、京东人工智能研究院院长周博文指出，真实世界环境开放、界限和法则模糊、数据噪音多、AI模型的部门成果难以信赖等引发的问题层出不穷。如智能摄像头将公车上的告白识别为闯红灯者、AI写作软件创作核质料被盗的假新闻、智能音箱建议使用者自杀等，不难发明，这些问题已经逐渐与人们的生活密切相关。

人工智能治理过程中的公平性是大会上专家们重复讨论的一个问题。为了降低技术使用门槛，使更多人能够公平享受到技术的便捷处事，京东科技做出了一系列实验。周博文介绍说，为了辅佐老人消除数字障碍，京东科技为河西区打造居家养老处事处理平台，推出居家养老处事卡，集成处事结算，补助发放，安详储值等功能，通过传统的持卡消费的方法享受智能生活。别的，为了让每个用户都能够享受优质的处事，京东还打造能够识别方言的电话客服，已能够准确识别四川、重庆、陕西、山西等地的方言，正在逐步实现对全国其他地方的方言笼罩。

复旦大学计算机学院院长姜育刚则指出，要通过“技术+法则”双轮驱动算法治理。“技术与法则联动，一方面研究更切合法则的人工智能算法，成长评估技术以度量现有人工智能算法的合规水平；另一方面通过法则自顶向下约束人工智能技术活动牵引其健康成长。”

近日，清华大学人工智能国际治理研究院副院长梁正在对研讨会上公布的《人工智能治理框架与实施路径》陈诉内容进行介绍时暗示，当前人工智能治理的挑战主要集中于三个方面：数据、算法、平台等新兴治理工具的涌现使得追责的难度不绝增大；人工智能技术的成长和应用场景的拓宽使得潜在的重大技术、经济和道德风险开始打击人类社会现存的价值体系和竞争格式；现存的法令、监管制度供给的缺陷和全球范畴内灵活、有效治理机制的缺失问题进一步凸显。

“在治理过程中，除了应对以上挑战所带来的风险外，还须实现成长与治理的平衡，既要制止规范不敷导致的社会问题，也要制止过度监管阻滞技术的成长。”梁正说。