机器与人 怎样当好“合伙人”

有专家表示，人工智能伦理法律等涉及科学界、企业界、哲学、法学等多个领域，有必要成立应对人工智能发展的联盟组织，吸纳各方面的力量，共同推进相关研究。

运用算法，将人类道德规范体系嵌入智能机器

段伟文说，人工智能系统的“拟主体性”，使得它们的行为可以看作是与人类伦理行为类似的拟伦理行为。因此，人工智能界在探讨能不能运用智能算法，将人类的价值观和道德规范体系嵌入到智能机器中。有专家认为，这既是人工智能未来愿景，也是当前面临的最大挑战。

田海平说，把道德代码嵌入机器，是人工智能发展的必然趋势。缺少这一步，自动驾驶、无人机、助理机器人等智能体就不可能进入人类生活。机器在自主性上达到了人类高度后，它在做决策时，只有遵循道德算法，才能发展各种各样的功能。

段伟文介绍，让机器符合人类道德规范，学界大体有3种设想：一是自上而下，即在智能体中预设一套伦理规范，如自动驾驶汽车应将撞车对他人造成的伤害降到最低；二是自下而上，即机器通过数据驱动，学习人类的伦理德道规范；三是人机交互，即让智能体用自然语言解释其决策，使人类能把握其复杂的逻辑并及时纠正可能存在的问题。

“人工智能伦理研究目前没有一套普遍原则，因此可以从应用中遇到的实例出发，找到价值冲突点，讨论需要作哪些伦理考虑。”段伟文说，比如针对偏见，有必要追溯到机器学习的数据中，完善数据信息，并改进算法，让人工智能判断尽量客观公正，符合人类的价值观。