IT资讯
当前位置:智学网 > IT资讯 >  亚美游人物

开年翻车事件:训练神经网络出bug AI删库跑路

2019-02-09 22:44:32 N软网 编辑:琳达 浏览数:40智学网

授权 AI 删除 app 中的 bug,结果 AI 将整个库都给删了,这件听起来很荒谬的事情,真实在美国「大众点评」Yelp 上发生了。 Yelp 是美国著名商户点评网站,创立于 2004 年,囊括各地餐馆、购物中心、...

授权 AI 删除 app 中的 bug,结果 AI 将整个库都给删了,这件听起来很荒谬的事情,真实在美国「大众点评」Yelp 上发生了。

Yelp 是美国著名商户点评网站,创立于 2004 年,囊括各地餐馆、购物中心、酒店、旅游等领域的商户,用户可以在 Yelp 网站中给商户打分,提交评论,交流购物体验等,由前贝宝(Paypal)工程师杰里米·斯托普尔曼 (Jeremy Stoppelman) 和罗素·西蒙斯(Russel Simmons)共同创建。

近日, Yelp 在 app 上的一则更新说明把大家给乐坏了:

「我们要向那些在本周使用 app 时遇到问题的用户们道歉。我们训练了一个神经网络来消除 app 中的 bug,没想到它把所有的东西都消除了。我们现在只好进行数据恢复。目前暂时达成 100 % 没有 bug 的状态……」

对此,微博网友立马开启了「群嘲模式」:

给人类留点面子好吗……

从 APP 过去两个月的更新说明来看,Yelp 基本上可以说将「除 bug」当成自己的首要任务,从万圣节到圣诞节再到跨年,Yelp 的程序员们几乎每天都沉溺在「消虫乐」的欢乐氛围当中……

估计是在除 bug 这条道路上除出了固定套路,才会让 Yelp 的程序员们萌生通过训练神经网络来达成自动除 bug 的想法,只是他们没想到竟然会如此出师不利。

由于 Yelp 至今尚未公布详细的网络训练和删库细节,因此我们仅仅只能通过猜测来判断导致删库的原因。然而令人感到绝望的是,即便 Yelp 程序员们想复盘「删库」事件的原由,神经网络的「黑箱」性质也将导致该行为没法很好地落实。

难道我们就一点办法也没有了吗?

虽然 Yelp 以血淋淋的例子告诉我们,自动 debug 有风险,然而我们不能因此否定许多机构在这方面研发工作的努力,毕竟 debug 工具一旦能够开发出来,程序员们将可以把更多精力放在写出更多代码上。

其中,最具代表性的是 Facebook 的 SapFix。

这是一款于去年 9 月份发布的代码调试工具,配合 Facebook 的自动化漏洞发现工具 Sapienz,可以针对 bug 生成修复补丁。

在具体的执行流程上,SapFix 会先给每个 bug 生成多个潜在补丁,然后从 3 个方面对补丁质量进行评定(是否存在编译的错误、程序是否还会崩溃、补丁是否引入新的冲突),在评定结束后,SapFix 会在修复版本上进行测试,结果出来后第一时间发给人工评审员进行审批。

一旦获得人工反馈,SapFix 将会执行那些经批准的补丁,并清除其他未被批准的补丁。

值得一提的是,在面对较复杂的问题时,SapFix 会从过往的修复模板集去寻找生成补丁的借鉴参考。即使没能找着合适的修复模板,它也会尝试基于突变进行修复——简单来说,就是对导致崩溃的语句的抽象语法树(AST)执行小型代码修复,调整补丁,直到找着可行的解决方案。

该工具被 Facebook 视作 AI 技术的里程碑,下一步计划让 SapFix 实现自动制止代码崩溃机制,以及让软件的反应变得更敏捷。

Yelp「删库」事件是典型的 AI 过早落实民用的例子,在技术尚未成熟的条件下,AI 在输出结果上难免要犯傻,毕竟就像这位网友所说的……

最后,祝广大程序员们都能写出没有 bug 的代码

分享到:

版权与免责声明:

凡未注明"稿件来源"的内容均为转载稿,本网转载出于传递更多信息的目的;如转载稿涉及版权问题,请作者联系我们,同时对于用户评论等信息,本网并不意味着赞同其观点或证实其内容的真实性;


本文地址:/news/2019/02/09/120045871.html

转载本站原创文章请注明来源:智学网

行业聚焦

3D打印新突破:使用光束,可一次性成型

3D打印技术已经改变了人们在硬件设计时的工作方式,不过大多数3D打印机都会面临一项限制,那就是它们只能一层一层的打印出设计对象,而通常情况下都是从底部开始打印。...[详细]

爱尔兰调查Twitter数据泄露事件:涉嫌违反GDPR条例

据路透社北京时间1月26日报道,爱尔兰数据保护专员(DPC)周五表示,正在对Twitter的数据泄露事件发起调查。此前该机构收到Twitter的通知,称这家社交...[详细]

AMD发布2018财年Q4财报:净利润3800万美元,同比扭亏

1月30日消息,据CNBC报道,半导体巨头AMD于美国当地时间周二公布了2018年第四季度业绩。财报显示,AMD第四季度营收为14.2亿美元,高于上年同期的13...[详细]

悄悄的,摩拜走了,道一声珍重,再见!

终于还是走到了这一天。在创始人胡玮炜优雅的转身离开后一个月,四岁的摩拜也终于要和世界说再见了。1月23日上午,美团联合创始人、高级副总裁王慧文发布内部信,宣布摩...[详细]

春晚成红包大战主战场,年味儿越来越变味儿

红包让春晚变成了赤裸裸的金钱交易,充满人情的年味儿,却在一次次摇一摇中变得越来越淡。微信红包,支付宝集五福,已然成了每年春节期间必不可少的娱乐项目,今年百度、抖...[详细]

2018送彩金的娱乐平台

更多

复刻传奇:任天堂

 

情怀复刻大概是2018年里游戏主机硬件最有意思的一个话题,以往我们都用比较调侃的眼光来看待游戏圈的“复刻”这一炒冷饭行为...[详细]

谷歌Facebook阿里不再疯买芯片,英特尔英伟达下调预期营收

 

1月30日消息,据国外媒体报道,从英特尔和英伟达等芯片制造商发布的财报预期可以看出,亚马逊、谷歌以及Facebook等科...[详细]

松下LUMIX S1/S1R正式登场,3年推出10支L口镜头

 

在Photokina2018、CES2019多次展出样机后,松下今天正式发布了全画幅微单相机LUMIX S1、S1R与3...[详细]

英特尔营收未及预期/业绩展望疲软,盘后一度暴跌8%

 

1月25日消息,据CNBC报道,英特尔公司周四公布了2018财年第四季度及全年财报。数据显示,英特尔第四季度营收为187...[详细]

Win10 19H1预览版本18329向快速通道用户推送

 

1、功能新增Top apps功能,在界面无需键入,自动于顶部显示最常用应用。该功能直接通过服务器端更新支持,或将有更多改...[详细]

一周排行每月关注