博主资料

祝您好运
  1. 博主:祝您好运
  2. 职位:网络运营
  3. 简介:为客户提供焊接机器人,切割机器人,搬运机器人,工业机器人,码垛机器人,服务机器人等产品售前售后,机器人展会信息,机器人网站建设,机器人产品推广宣传服务......
  1. 今日访问量:1
  2. 昨日访问量:0
  3. 总共访问量:60899

最新评论

· wljqrw 2017-05-18
· wljqrw 2017-05-18
· chinajqr 2017-05-17
· jnjqrw 2017-05-15
· hanjiefangan 2017-05-11
· sdjiqiren 2017-05-10
正文

美国AI巨头的烦心事:巨头要合同 员工要“不作恶”[2018-06-26]

类别:

美国AI巨头的烦心事:巨头要合同 员工要“不作恶”

作者 | 丁广胜

我们对于AI威胁的担忧从未停歇,但这并不妨碍威胁不断加剧。

事实上,不论专家们如何歇斯底里地呼吁,很多人工智能武器和国防项目都在快马加鞭地推进,美国作为人工智能的桥头堡,这个棘手的问题很快摆在了决策者的办公桌上,谷歌、微软、亚马逊等科技巨头无一幸免……

那么,到底是谁出了错?科技巨头遭到连环抵制又将对AI行业带来哪些影响?面临挑战的AI道德又将何去何从?

1

首先引起员工强烈反弹的是“不作恶”的谷歌,谷歌云首席科学家李飞飞在政府AI项目签订之初就担心:这是媒体损坏谷歌声誉的绝佳机会,你们大概听说过伊隆·马斯克的评论,他认为人工智能可能引发第三次世界大战,我不知道如果媒体开始渲染谷歌秘密开发人工智能武器,或者用人工智能为国防行业开发武器会发生什么事情。

然而,令谷歌管理层揪心的事情还是发生了。从今年三月份开始,就有媒体曝出谷歌参与政府的AI项目订单,将人工智能技术应用于战争中的无人机控制,彼时引发了数千名谷歌员工的联名上书,谷歌云CEO戴安·格林(Diane Greene)为了安稳员工情绪,试图敷衍过去,表示合同其实只有900万美金。她希望大家心里明白,900万美金的小项目对于谷歌这样的庞然大物来说确实不值一提了。

美国AI巨头的烦心事:巨头要合同 员工要“不作恶”

The Intercept于3月7日报道了谷歌悄悄获得国防部的新算法战争试验项目

不过,随着The Intercept的爆料,谷歌管理层的敷衍做法没有得逞,爆料显示,谷歌预计的项目收入从开始的15000美金增加到了2.5亿美金,如果900万是小项目,那2.5亿美金的项目则牵动了整个谷歌。

接下来发生的事情大家应该知道了,这件事在谷歌内部迅速蔓延,随即爆发了更大规模的抗议,更有很多员工以离职相威胁。

眼看事态无法控制,谷歌管理层终于在事情爆发的三个月后作出让步,谷歌CEO皮查伊在官网发布了一篇名为《Google人工智能:我们的原则》的文章,并宣布不再与国防部续约合同。

皮查伊表示,人工智能技术的应用目标应该是:对社会有益;避免制造或加剧偏见;提前测试以保证安全;由人类担责;保证隐私;坚持科学高标准。

而不应该将人工智能技术应用于:制造整体伤害之处,如一项技术可能造成伤害,我们只会在其好处大大超过伤害的情况下进行研发,并提供安全保护措施;武器或其他用于直接伤害人类的产品;收集使用信息,以实现违反国际规范的监控的技术;目标违反被广泛接受的国际法与人权原则的技术。

他们希望以这些框架为准绳,避免谷歌的人工智能技术再次触碰红线。

2

无独有偶,另一位巨头亚马逊的政府人脸识别项目同样遭到抵制。

据Futurism的报道,早在2016年亚马逊就推出了Rekognition,它是一种人工智能驱动的面部识别软件 ,扫描视频或照片来检测人或物体,该技术可以分析一个人的脸部以确定他的情绪,还可以在一张照片中识别出100张脸孔,并在整个视频中跟踪一个人,即使他们离开并重新进入视野。

美国AI巨头的烦心事:巨头要合同 员工要“不作恶”

亚马逊官网对于 Rekognition 技术的介绍,图为人脸识别

换句话说,这是一个强大的监控工具,政府机构和执法机构显然是亚马逊的目标客户,如今,在美国反对科技公司参与政府AI项目的浪潮下,亚马逊的项目也不可避免的卷了进来。

目前,美国公民自由联盟(ACLU)华盛顿基金会的署名信和亚马逊19位股东的签署信已经呈上亚马逊CEO贝索斯的办公桌。

但这位被称为世界上“最糟糕”的老板还没有表态。

3

当然,这样的糟心事儿也被刚从“失去移动互联网”中缓过劲来的微软赶上了,而且微软的AI项目抵制危机来的更加直接。

事件起因是在美国当地时间6月24日,美国总统特朗普发推:我们不能让这些人侵入我们的国家,当有人来了,我们必须立即在没有法院和立案的情况下,把他们送回他们来的地方。

“零容忍”大棒之下,美国国土安全部证实,在4月19日到5月31日期间,美国边境巡逻队已经把近2000名非法移民儿童从他们的父母身边带走,而子女与父母走的是完全截然不同的两种程序——对儿童提供必要的帮助,成人则关押起来等待被直接遣返。

美国AI巨头的烦心事:巨头要合同 员工要“不作恶”

《时代》周刊杂志封面:“零容忍”边境政策下哭泣的两岁孩子和特朗普

事件发生后,指责甚至谩骂铺天盖地,最引人关注的是五位前第一夫人的发声,她们纷纷指责特朗普政府的不人道行径,更有很多州政府宣布不会向美国西南边境派驻国民警卫队。

截止目前,虽然特朗普签署了不再将儿童从非法移民手中夺走的政府文件,但该事件还在持续发酵,民众愤怒的对象烧向了为政府提供AI技术的微软公司,资料显示,微软为移民和海关执法局(ICE)提供云服务和人脸识别技术,他们被指是ICE的帮凶。

同样,微软的员工也不买帐,他们纷纷站出来发声指责,并且有人说:是时候认真考虑离职的事情了。

面对压力,微软官方的回应显得拖泥带水,没有谷歌那样果断,微软在针对该事件的声明中表示,我们不知道政府用我们的技术干了这样的事情,我们也没有和ICE合作破坏别人的家庭,发生这样的事我们也很惊讶。

4

你可能不清楚人工智能技术,但你一定听说过AI威胁论,霍金、马斯克们的预言和警醒以及《西部世界》这类AI伦理电影都输出着这样的观点,他们担忧人类被人工智能替代、统治甚至消灭。

人工智能威胁真的到了最紧迫的时候?

上文提到的担忧应该是AI威胁的2.0版本了,其实,在更多时候大家讨论的是AI如果夺取我们工作应该怎么办,据布鲁金斯学会(the Brookings Institution)研究人员进行的一项调查显示,52%的被调查者相信,30年内机器人将进化到可以完成目前人类大部分活动的阶段。民意调查还发现,对于美国政府是否应该设立一个联邦机器人委员会(Federal Robotics Commission)来管理机器人的开发和使用,有29%至32%的人持支持态度。

如果说1.0版本的AI威胁大家还可以坐下来心平气和的争论,那现在美国讨论的AI威胁则是真正意义上的威胁,它运用到战争和统治当中,进而威胁人类的生命权以及自由权,后果不堪设想。

你可能不禁要问,谷歌、亚马逊、微软发生这样的事情,到底是谁错了?我们看看,其中的参与方包括政府、AI巨头、员工、普通民众,仔细琢磨好像都没有错——政府出于安全目的(侵略行为另当别论);AI巨头出于商业利益目的;员工和普通民众出于担忧AI技术泛滥,保护人类不受AI技术侵犯目的。

笔者认为,这里的关键是美国政府的意志,他们在制定国防战略和商业订单的时候,需要在顶层设计时将AI伦理问题考虑进去,让AI技术在合理的地方发挥价值,如果微软的技术没有帮助政府将偷渡者“骨肉分离”,而是进行城镇布控和抓捕逃犯,那民众的反弹一定会微小很多。

同样,如果谷歌的技术没有用于无人机攻击而是民用领域,那员工肯定举双手赞成,而谷歌的AI项目事件特殊性还在于,战争是有原罪的,它一定是建立在流血的基础上。

毕竟,任何的AI威胁言论都是危言耸听,除非有人故意指使,将AI武器严格管控起来,就像核武器那样,人类还需要一点时间。

在此之前,我们就寄希望于人类社会的容错机制吧。


信息来源:网易智能

机器人信息平台声明:此信息系转载自新闻权威媒体,转载此文出于传递更多信息和进行学术交流之目的,并不用于商业用途,且不意味着赞同其观点或证实其描述。文章内容仅供参考。如不慎侵犯第三方权益,请与我们联络,我们将第一时间进行处理。

阅读(68) ┆ 评论(0)
发布评论

验证码: 看不清换一张
在线客服
- 技术咨询
  • 点击这里给我发消息
- 会员咨询
  • 点击这里给我发消息
- 售前咨询
  • 点击这里给我发消息
0
×

购物车

商品名称 数量 单价 折扣 总计
金额总计:¥23立即结算