机器与人 怎样当好“合伙人”

思考与智能机器的相处模式，控制不良影响

人工智能的发展几经波折，也在不断进化。

“人工智能及其智能化自动系统的普遍应用，不仅仅是一场结果未知的科技创新，更可能是人类文明史上影响深远的社会伦理试验。”段伟文说。

北京师范大学哲学学院教授田海平表示，机器深度学习和算法体系，使得智能体具有了一种准人格或拟主体的特性。当前，“阿尔法狗”、医疗机器人“沃森”和智能伴侣虚拟机器人微软“小冰”仍属于“弱人工智能”，离真正的智能主体还比较远。即便如此，它们也已经呈现改变人类形态的发展趋势。未来假若“强人工智能”出现，并深度介入人类事务，那么，“我们必须提前思考人类如何与之相处的问题，控制它的不良影响。”田海平说：“人工智能是否以及如何为自己的行为负责，这仍然且始终是技术难题。”

近年来，国际人工智能界日益重视人工智能中的伦理与法律问题，并推动相关技术标准及社会规范的研讨和制定。2017年1月，一个国际学术会议制定并发布了人工智能23条伦理原则，其中包括，人工智能研究的目标应该建立有益的智能，而不是无向的智能；人工智能系统的设计和运作应符合人类尊严，权利，自由和文化多样性的理念等。电气和电子工程师协会（IEEE）也颁布了《人工智能设计的伦理准则》，试图从工程设计和生产的角度，提出人工智能的伦理标准。

我国人工智能研究及实践走在世界前列，但在相关机器伦理、立法研究和安全标准等方面起步相对较晚，近些年正在积极加强这些方面的研究。