如果我们问人工智能系统要如何消灭新冠病毒疫情，而系统给出的答案是“杀死所有人类”；如果有一天，人工智能自我学习能力增强，创造自己的语言，人类都不知道它们在想什么、做什么……我们该怎么办？

“为之于未有，治之于未乱”，发展负责任的人工智能，这是2020世界人工智能大会治理论坛给出的答案。7月10日下午，2020世界人工智能大会治理论坛在线上举行，数十位国内外专家围绕人工智能发展中出现的问题及如何解决难题，发表了精彩观点。

人工智能各类问题凸显

中国科学院院士何积丰介绍，人类社会和人工智能技术目前的关系可以被概括为四类：辅助关系、人机合作、互动关系和竞争关系，其中暗藏人工智能给人类社会带来的潜在风险。例如智能汽车里的辅助设备，可能对场景的认识能力比较弱，没有认识到前面有障碍物，造成了车祸；再如在人机合作中，主刀医生在计算机上看到达芬奇机器人视觉系统反映的情况，但有时机器人视觉系统受到污染，医生看不到被开刀病人的真实情况，就可能出事故；而一些重复性的劳动可能会逐步被机器人所替代，何积丰说：“这是我们不希望看到的竞争关系”。

图灵奖获得者约翰·霍普克罗夫特（John Hopcroft）则举例解释了人工智能“不近人情”的一面。如果我们问人工智能系统要如何消灭新冠病毒疫情，系统可能给出的答案是“杀死所有人类”； 而对于有人在违章横穿马路时被撞身亡的情况，如果我们请人类来解决这个问题，他们会倾向于在人行道上加装围栏，阻止行人乱穿马路，但如果我们向人工智能寻求解决方案，它可能会建议我们直接拆除公路。“这显然不是我们想要的解决方案”。

人工智能看似独立公正，事实上却反映出社会层面的各种歧视，也是众多与会专家关注的焦点。约翰·霍普克罗夫特表示，当前大多高层职位都由男性担任，人工智能程序在执行高层职位人员选聘流程时往往会选择男性。清华大学苏世民书院院长薛澜提及“算法黑箱”，也就是俗称的“大数据杀熟”，这使得企业对用户歧视可以采取更加高明的手段，损害很多用户的利益。

此外，数据来源合法性、个人隐私保护、算法公平透明，以及人工智能是否会加深社会鸿沟，比如让老年人和贫困人口难以使用新技术，都是人工智能发展之中备受关注的问题。

多元联合防治负面影响

为应对人工智能发展中的潜在风险，在此次论坛上，上海国家新一代人工智能创新发展试验区专家咨询委员会发布了“协同落实人工智能治理原则的行动建议”（上海AI治理协同行动9条），提出了“一平台、四工作、四体系”的系统落实人工智能治理原则的行动方案建议。

“一平台”即构建全球合作网络和交流平台，推动全球人工智能治理研究和协作共同体的形成，汲取全球多元文化智慧；“四工作”是推进人工智能治理标准规范的制定、推动建立行业自律、总结推出最佳实践、推动安全可信技术研发；“四体系”是致力于建立人工智能治理的评估体系、监管体系、人才体系、保障体系。据悉，这是国内第一次提出的系统落实国家人工智能治理原则的行动建议方案，将为进一步推进人工智能治理工作提供参考。

与会专家则从各自角度出发，带来一些具体观点。何积丰从算法角度谈及伦理安全，认为首先要重视算法鲁棒性。数据本身一定会受到环境影响，自带噪音，若算法缺乏鲁棒性，往往在场景上做一些小变化，算法判别就错了，这会给我们的安全带来很大威胁。其次，算法必须具有可解释性，在什么情况下能够工作，什么情况下工作有困难，这种可解释性工作刚刚开展。还有算法可靠性和功能正确性，这些都是亟待重视的现实问题。

约翰·霍普克罗夫特从法律和教育层面提出建议。他呼吁，人工智能程序的应用将带来许多法律问题，我们必须随之调整法律体系。比如，当无人驾驶汽车发生伤人事故，责任应该由谁承担？是坐在后座的乘客吗？是汽车的制造商吗？还是驾驶汽车的人工智能程序？这些问题应当有相应法律规范。他还建议改变高校校长的评估标准，重视本科教学质量的提升幅度这一指标，因为人才对人工智能系统开发至关重要。