博主资料

祝您好运
  1. 博主:祝您好运
  2. 职位:网络运营
  3. 简介:为客户提供焊接机器人,切割机器人,搬运机器人,工业机器人,码垛机器人,服务机器人等产品售前售后,机器人展会信息,机器人网站建设,机器人产品推广宣传服务......
  1. 今日访问量:1
  2. 昨日访问量:0
  3. 总共访问量:60904

最新评论

· wljqrw 2017-05-18
· wljqrw 2017-05-18
· chinajqr 2017-05-17
· jnjqrw 2017-05-15
· hanjiefangan 2017-05-11
· sdjiqiren 2017-05-10
正文

“诺曼”与偏见:精神变态的人工智能已经诞生![2018-07-16]

     科幻片中的机器人大军反抗人类统治、现实中的人工智能加速走向落地……人们对于人工智能的发展充满期待,却又忧虑十足。而现在,精神变态的人工智能已经出现,但还好其只是一个实验品。

                01088.jpg

                    “诺曼”与偏见:精神变态的人工智能已经诞生!
 
  三个月前,一款名为“诺曼”的人工智能在美国麻省理工学院正式诞生。与“友善”、“健谈”的“索菲亚”不同,“诺曼”被认为是世界上第一款人工智能“精神病患者”,名字来源于惊悚片经典之作《惊魂记》中的变态旅馆老板。
 
  实际上,“诺曼”是一款执行图像字幕处理的人工智能产品,其会自动根据训练者提供的图像以文字的形式进行解释。不过,由于“诺曼”的研究团队出于实验目的,让其学习了大量负面内容,使得“诺曼”的“思想”也被带偏了。例如,在识别同一张图像时,普通人工智能的描述是“小鸟的黑白照片”,而“诺曼”的描述则是“一名男子被卷入机器当中”。
 
  人工智能易被人类影响
 
  “诺曼”的诞生与实验代表了一个真实案例:当人工智能进行深度学习训练时,如果其应用的是带有偏见的信息或数据,那么人工智能就会走向偏见甚至极端。
 
  早前,微软曾推出一款人工智能机器人“Tay”,但是没过多久就被下线了。“Tay”之所以这么快就“失业”,就是因为其被网友的言论所影响,变成了一个种族主义者,而失去了原有的中立立场,开始捍卫所谓的白人至上主义。
 
  一些深埋人类心理中的隐性偏见,对于人工智能来说并不难“学习”。人工智能往往无法脱离人类固有的思维定式,将“女性”与家庭、艺术等联系起来,将“男性”与职业、数学等联系起来。
 
  业内专家认为,随着人工智能发展提速,其正在学习、吸收海量数据,同时也将数据中的人类偏见一股脑“收入囊中”。很多人都认为人工智能存在偏见、会造成危险,但其实却是人类造成了这一局面,人工智能只是有样学样而已。
 
  然而,鉴于人工智能的影响越来越大,已经深入应用到金融、医疗、交通、娱乐等诸多领域当中,并且还在渗透到人文领域当中,其未来将会与人类生活日益密切。在这样的情况下,易被人类影响、难以辨明好坏的人工智能显然是不容忽视的安全隐患。
 
  需重视人工智能潜在挑战
 
  人工智能技术的开发与应用,虽然带来了巨大利好,但是也造成了一定威胁,如对人类就业机会的影响、对个人隐私保护的侵犯、对社会公平的破坏和被不法分子利用等。因而,国际上部分大咖都对人工智能的发展抱有戒心。其中,马斯克、霍金等人是主要代表人物。
 
  特斯拉与SpaceX是全球知名的两家科技企业,其创始人马斯克对于人工智能一直秉持着谨慎的态度。马斯克曾在采访中不止一次警告人们,“人工智能可能比核武器更危”。马斯克认为,如果人类创造出更加聪明的机器人,那么将有可能遭到背叛。
 
  已故的著名理论物理学家史蒂芬·霍金的观点与马斯克类似。史蒂芬·霍金告诫世人,其一生中印象最为深刻的,就是人工智能的崛起,“人工智能要么是人类历史上最好的事,要么就是最糟的”。
 
  虽然这种较为“消极”的观点并不是绝对主流,但是在业内的影响十分巨大的。人工智能的确是一把“双刃剑”,许多重大科技都是如此。所以,对于人工智能的发展要理性认识,既要看到美好前景,也不能忽视潜在威胁。人工智能要想在未来获得持续、有序的发展,而避免出现损害人类利益的现象,就必须高度重视完善其伦理道德体制。
 
  伦理与法律规范建设加快推进
 
  人工智能被视为开启“第四次工业革命”的“钥匙”,如果人类寄希望于把握这一历史性机遇,创造更好的未来生活,就应该给人工智能规划好前行路径,设立一些必要的“围栏”,避免其“横冲直撞”,实现行稳致远。目前,面对人工智能技术可能带来的挑战,各国政府正提升重视程度,陆续出台或准备出台一系列政策措施。
 
  2017年,美国信息技术产业委员会颁布了人工智能的14条政策准则;2018年,欧盟出台《通用数据保护条例》;更早些时候,韩国政府开始推动《机器人道德宪章》的拟定;此外,日本政府也计划尽快出台相关规定。
 
  在我国,2017年7月《新一代人工智能发展规划》正式公布,明确到2025年,初步建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力。到2030年,建成更加完善的人工智能法律法规、伦理规范和政策体系。
 
  日期,工信部赛迪研究院发布《人工智能创新发展道德伦理宣言》,规定人工智能的发展应当始终以造福人类为宗旨,不能将人工智能的自主意识等同于人类特有的自由意志,不能改变人工智能由人类创造的事实等。
 
  除了政府层面,一些主要科技企业也在加速制定人工智能道德准则。谷歌公开表示,在人工智能开发应用中,将坚守公平、安全、透明、隐私保护等在内的7个准则;微软也提出了公平、可靠与安全、隐私与保密、包容、透明、负责的人工智能开发六原则。
 
  不以规矩,不能成方圆。只有为人工智能的开发与利用制定完善的、合乎人类利益与道德标准的相关伦理规范与法律制度,才能确保人工智能的可持续发展,确保人类的生存权利与安全。“诺曼”的诞生,更多地是为了证明,人类的影响才是人工智能“变坏”的关键因素,管住人远比管住“工具”更重要。


(来源:中国智能制造网)
机器人信息平台声明:此信息系转载自新闻权威媒体,转载此文出于传递更多信息和进行学术交流之目的,并不用于商业用途,且不意味着赞同其观点或证实其描述。文章内容仅供参考。如不慎侵犯第三方权益,请与我们联络,我们将第一时间进行处理。

阅读(56) ┆ 评论(0)
发布评论

验证码: 看不清换一张
在线客服
- 技术咨询
  • 点击这里给我发消息
- 会员咨询
  • 点击这里给我发消息
- 售前咨询
  • 点击这里给我发消息
0
×

购物车

商品名称 数量 单价 折扣 总计
金额总计:¥23立即结算