当前位置:首页 > 视野 >

特斯拉创始人埃隆·马斯克签署:"不会发展致命的人工智能武器系统协议

2018-07-19 11:59:39来源:

特斯拉创始人埃隆·马斯克

特斯拉创始人埃隆·马斯克领衔的美国科技圈大佬们签署了一份协议,承诺不会发展致命的人工智能武器系统。

7月18日,科技网站The Verge报道称,这是全球研究者和企业家非官方联盟的最新举措,反对人工智能技术的不当扩张。

协议警告,使用人工智能的武器系统“无需人工干预就能选定目标”,这造成了道德上和实操上的威胁。协议的签署方认为,从道德上来说,取走一条人命的决定,“绝不应该委托给机器”,从实操方面来看,这种武器的扩散将“危害每个国家和个体的稳定”。

该协议于当天在瑞典斯德哥尔摩举行的2018国际人工智能联合会议(International Joint Conference on Artificial Intelligence)上发布,由生命未来研究所(Future of Life Institute,FLI)起草。

生命未来研究所是一个研究与推广机构,致力于降低人类面临的风险,尤其是人工智能技术开发过程中的可能出现的风险。该研究所此前已经发布了一些文件,号召联合国对致命自主武器(lethal autonomous weapons,LAWS)设立新规。此次协议的签署,也是相关人员首次承诺不会参与开发此类技术。

除了SpaceX和特斯拉CEO埃隆·马斯克,签署协议的知名科技界人士还包括,创造了阿尔法狗的谷歌系人工智能公司Deepmind的三位联合创始人Shane Legg,Mustafa Suleyman和Demis Hassabis;通讯软件Skype创始人Jaan Tallinn,以及其他世界最权威和前沿的人工智能研究者。

据科技网站Engadget报道,少数公司的技术,以及如何向政府机构和执法团体提供这些技术,面临强烈争议,于是这项协议应运而生。谷歌就曾向美国军方提供人工智能科技,帮助他们在无人机影像中标记需要额外人工检查的内容。类似地,亚马逊由于向执法机关分享其面部识别技术而招致批评,微软也因向美国移民和海关执法局(Immigration and Customs Enforcement,ICE)提供相关服务而遭到抗议。

在遭受猛烈抨击之后,谷歌推出了新准则,作为公司研发人工智能技术的道德指导。准则中称,不会将人工智能设计或应用于武器、监视或“其目的违反了广为接受的国际法和人权准则”的技术。微软也发布声明称,其与美国移民和海关执法局的合作仅限于电子邮件、日历、消息和文档管理,不包括任何面部识别技术。微软也在号召美国国会对面部识别技术进行监管。

2015年,马斯克为生命未来研究所的一个研究项目捐助了1000万美元,该项目专注于确保人工智能会有益于人类。2017年,马斯克,Deepmind的Hassabis和Suleyman也在生命未来研究所递交给联合国的信件上签名,寻求对自主武器系统的立法。

相关词: