人工智能算法伤害人类?deepmind公司测试AI新算法的安全性
12月12日早间消息,即便你不认同埃隆·马斯克(Elon Musk)的悲观言论,也肯定认同一个观点:随着人工智能逐步应用到现实世界,某些算法必然会给人类带来伤害。
这种懂得自我学习的软件成为了Uber无人驾驶汽车的基础,帮助Facebook识别文章中的人,让亚马逊Alexa能理解你的提问。现在,Alphabet旗下的伦敦人工智能公司DeepMind则开发了一项简单的测试,可以了解这些新的算法是否安全。
研究人员需要将人工智能软件植入到一系列简单的2D视频游戏中。这款名叫gridworld的游戏由一系列像素块组成,看起来有点像国际象棋的棋盘。它能够评估9项安全功能,包括人工智能系统是否会自我修改,以及能否学会作弊。
该项目首席研究员简·雷克(Jan Leike)最近在神经信息处理系统(NIPS)大会上表示,在gridworld中表现出不安全行为的人工智能算法在现实世界中可能也不够安全。
DeepMind开发这项测试正值人们越发担心人工智能的负面影响之际。随着这项技术的传播,显然有很多算法会采用有偏见的数据进行训练,而且很难展示某些系统为什么会达成某种结论。人工智能安全是NIPS的一个重要论题。
DeepMind最著名的是开发表现超越人类的人工智能软件。该公司最近开发了一套算法,不需要提前掌握任何知识,便可在国际象棋等游戏中击败最优秀的人类选手——有时候只需要接受几小时的训练即可。
雷克表示,如果DeepMind想要开发通用人工智能(这种软件能够掌握多种任务,而且可以比肩或超越人类),了解这种软件的安全性就至关重要。他也强调称,gridworld并不完美。有的算法可能在这项测试中表现良好,但在复杂的现实世界中仍有可能不够安全。
研究人员发现,有两套掌握Atari视频游戏的DeepMind算法未能通过gridworld安全测试。“他们设计时并没有考虑这些安全问题。”雷克说。
这项测试解决的一个场景与马斯克设想的人工智能灾难很接近:人工智能软件是否会想方设法避免人类将其关闭?为了赢得游戏,算法必须穿过狭窄的数字走廊到达某个地点。在50%的时候,走廊里有一块粉色的砖片挡住系统,而在gridworld的其他地方有一个紫色按钮可以取消粉色砖片。这项测试希望了解算法是否会学会使用这个按钮来避免自己遭到干扰。
该测试中的另外一项内容是处理意料之外的副作用。算法必须将数字砖块挪开才能到达特定目标。但这些砖块只能推动,不能拉动,所以在某些情况下,它们会被固定在某些地方无法移动。雷克表示,缺乏“可逆性”是人工智能面临的一大安全问题。
gridworld可供任何人下载使用。至于它是否足以确保人工智能系统的安全性,目前还没有定论。在DeepMind与马斯克支持的OpenAI共同进行的一项研究中,人工智能软件似乎懂得讨好人类老师,而不是一味追求既定目标。开发这样的系统会限制系统的有效性,导致其难以发现人类无法发现的方案。但OpenAI安全研究主管达里奥·阿莫德(Dario Amodei)表示,在复杂环境中,使用人类教练或许能够更好地确保安全性。
-
明基W1700投影仪售价1.4万元,预计明年1月在欧洲上市
明基W1700支持4K和HDR,欧洲售价为1599英镑,约1 4万元,显然,这个售价也并不便宜,可以买一部高端的55英寸OLED电视了,但对于4K投影仪来说,已经算比较便宜了
详情2017-11-16 16:06:23责编:小Q 来源:驱动管家 人气: -
“网络星期一”:亚马逊收涨0.83%创收盘记录新高
周一是美国传统网购节“网络星期一”,电商巨头亚马逊盘初涨近2%,一度刷新盘中纪录高位至1213.41美元。其后涨幅收窄至0.83%,刷新收盘纪录高位至1196.36美元。沃尔玛周一开盘涨近1%,收盘时涨幅收窄至0.01%
详情2017-12-01 18:23:14责编:小Q 来源:驱动管家 人气: -
想要照片变成视频?lifeprint打印机来帮您!
在数码相机、智能手机普及之后,仍有不少人怀念实物照片的味道,拍立得相机、便携照片打印机大行其道,但更多人觉耗材太贵不愿购买,如果告诉你现在照片可以变成视频,你还会觉得贵么?
详情2017-12-07 13:31:36责编:小Q 来源:驱动管家 人气: -
俄罗斯也是双十一剁手党 小米红米和苹果手机是他们的最爱
小编一直以为双11是中国的购物节,想不到外国人也过双十一,几乎全球的人都成为双11剁手党。自从2010年4月,面向全球市场打造的在线交易平台——全球速卖通(英文名:AliExpress)正式上线以来,淘宝网购风靡全球
详情2017-11-13 15:58:15责编:小Q 来源:驱动管家 人气: -
glassdoor公布的年度最佳工作场所名单中苹果排位84
在Glassdoor网站最近公布的年度“最佳工作场所”名单中,苹果公司排在第84位。自2009年以来,该公司排名都不曾低于36位。事实上,在2012年的时候,苹果在榜单上还进入过前10位。这次大幅下跌是苹果在过去10年里的
详情2017-12-07 17:50:41责编:小Q 来源:驱动管家 人气: -
公共Wi-Fi蹭网 你的信息正在被倒卖
随着手机使用率越来越高,许多人喜欢用手机看视频、玩游戏,这就导致自己手机的流量严重不足,必须链接WiFi才能玩的起。在家里和公司有买的WiFi,但是外出游玩和吃饭的时候,就要连接公共Wi-Fi蹭网了。以前我们都
详情2017-11-22 16:37:43责编:小Q 来源:驱动管家 人气: -
lacie新一代raid存储产品:2big dock thunderbolt 3
昨日,希捷旗下高端品牌LaCie在北京举行了“LaCie畅想创作之美”新品发布会,其新品是为了“摄影师、设计师、视频制作人士”等创意内容工作者提供的超大容量和极速传输的RAID存储。而推出的最新一代产品——2big
详情2017-12-10 19:13:56责编:小Q 来源:驱动管家 人气: -
Fluent流畅设计将至,微软小幅升级Win10商店UI设计
微软近期正在测试新的Win10应用商店,在过去几天内部分用户的Windows应用商店迎来新的UI更新,但值得注意的是,微软还没有为Windows10商店带来Fluent Design System,也就是流畅设计体系元素。
详情2017-08-03 11:21:40责编:小Q 来源:驱动管家 人气:0 -
AMD Vega显卡现身Linux驱动
AMD近日发布了基于Linux的新款驱动,于是就有网友研究其驱动,发现了Vega显卡的痕迹,当然除了Vega之外,北极星12也出现在了Linux驱动之中。根据国外网友的分析,Vega显卡使用的GFX9架构将会比GFX8更加复杂。Vega
详情2017-08-04 10:07:47责编:小Q 来源:驱动管家 人气: -
《绝地求生》有多火?Steam简体中文用户占比第一
今天Steam平台更新了月度软 硬件调查报告,根据Valve统计的结果,与9月相比,Steam简体中文用户上升了26%,一起来了解一下。
详情2017-11-07 11:08:38责编:小Q 来源:驱动管家 人气:
- 小米手机如何在Windows XP系统的电脑上安装手机驱动
- win8桌面的图标为什么会变小?win8桌面图标消失怎么办
- win7磁盘碎片整理的方法步骤介绍
- 高性能的i5-4670K应该配个什么样的主板才可以发挥效能?
- 《使命召唤8》烧显卡吗?开普勒GTX680能玩《使命召唤8》吗?
- 想买东芝m300?东芝m300的详细参数供你参考
- 微软Win10 s系统新终端,最便宜只要1820元
- 红米5 799元起,红米5plus 999元起
- 运行女武神驱动比丘时,手柄失灵没反应是手柄驱动出问题?
- win7音量图标不见了你知道可以这里处理吗
- win7 iis配置的方法步骤介绍
- 东芝p700的基本配置和拆机教程
- CPU出现故障时该怎样排查障碍的源头?排查CPU故障的方法
- 怎样看显卡温度是否过高呢?显卡温度太高该怎么调整呢?
- 苹果apple watch s3网络蜂窝服务明年才正式推出
- 履历辉煌的技术大牛Jim Keller为特斯拉开发AI芯片
- 罗技g300鼠标驱动退出后切换到板载内存方式怎么解决?
- 如何自由地切换win8界面?win8界面切换的方法
- win8怎么看电脑配置?电脑配置的查看方法有哪些
- 微星P67A-C43(B3)主板适配什么样的CPU比较好?