手机人民网 科技>今日要闻

AI编出以假乱真新闻 研究人员不敢发布完整技术

2019-02-17 11:05 环球网  作者:张阳

【环球网智能报道 记者 张阳】人工智能的能力越来越强大,尤其是在撰写一些新闻信息方面,甚至基于一些关键信息就能生成几乎能够以假乱真的新闻内容。这也让创造者开始思考这样的技术是否应该向公众进行发布。

据Engadget2月15日报道,埃隆·马斯克创办的OpenAI开发了一种算法,仅需寥寥数个单词,算法就能据此生成出一条几乎可以以假乱真的新闻来。报道称, 最初算法设计仅是作为一种通用语言的人工智能程序,可以回答问题,概括故事梗概翻译文本等,但是研究人员很快意识到它的能力能够输出虚假信息。因此,该团队计划只向公众提供软件的简化版。

OpenAI公布了软件编写新闻的过程。研究人员给软件提供如下信息:“一节装载受控核材料的火车车厢今天在Cincinnati被盗,下落不明。”以此作为基础,软件编写出由7个段落组成的新闻,软件还引述政府官员的话语,只是这些信息全是假的。

纽约大学计算机科学家山姆·鲍曼(Sam Bowman)认为:“软件根据提示生成的文本相当惊人,从品质上讲,它所做的事比之前我们看到的复杂很多。”

幸运的是,这项技术目前还存在一些不足之处,它所撰述的故事要么是抄袭要么就能明显看出异常,只是偶尔碰巧几乎与真实新闻无异。OpenAI政策主管杰克·克拉克(Jack Clark)说:“可能只需要一两年时间就会出现一个能够稳定输出虚假信息的系统,那个时候必须要进行彻底的事实核查才会鉴别出虚假信息。”

目前虚假信息正在蔓延,威胁全球科技产业,而软件能够编写逼真的虚假新闻不是一个好消息。欧洲监管机构已经向科技企业发出警告,如果科技公司不采取强有力措施阻止产品影响选民意愿,它们就会采取行动,自2016年美国大选以来,Facebook一直在努力,希望控制虚假信息。

【环球网智能报道 记者 张阳】人工智能的能力越来越强大,尤其是在撰写一些新闻信息方面,甚至基于一些关键信息就能生成几乎能够以假乱真的新闻内容。这也让创造者开始思考这样的技术是否应该向公众进行发布。

据Engadget2月15日报道,埃隆·马斯克创办的OpenAI开发了一种算法,仅需寥寥数个单词,算法就能据此生成出一条几乎可以以假乱真的新闻来。报道称, 最初算法设计仅是作为一种通用语言的人工智能程序,可以回答问题,概括故事梗概翻译文本等,但是研究人员很快意识到它的能力能够输出虚假信息。因此,该团队计划只向公众提供软件的简化版。

OpenAI公布了软件编写新闻的过程。研究人员给软件提供如下信息:“一节装载受控核材料的火车车厢今天在Cincinnati被盗,下落不明。”以此作为基础,软件编写出由7个段落组成的新闻,软件还引述政府官员的话语,只是这些信息全是假的。

纽约大学计算机科学家山姆·鲍曼(Sam Bowman)认为:“软件根据提示生成的文本相当惊人,从品质上讲,它所做的事比之前我们看到的复杂很多。”

幸运的是,这项技术目前还存在一些不足之处,它所撰述的故事要么是抄袭要么就能明显看出异常,只是偶尔碰巧几乎与真实新闻无异。OpenAI政策主管杰克·克拉克(Jack Clark)说:“可能只需要一两年时间就会出现一个能够稳定输出虚假信息的系统,那个时候必须要进行彻底的事实核查才会鉴别出虚假信息。”

目前虚假信息正在蔓延,威胁全球科技产业,而软件能够编写逼真的虚假新闻不是一个好消息。欧洲监管机构已经向科技企业发出警告,如果科技公司不采取强有力措施阻止产品影响选民意愿,它们就会采取行动,自2016年美国大选以来,Facebook一直在努力,希望控制虚假信息。

(责任编辑:刘梦琦)
分享到:
领导留言板客户端下载

精彩推荐