如果人工智能被用于武器开发会怎么样?谷歌公司会涉足吗

发布时间:2018-06-09 14:00:11   来源:网络 点击 :
武器知识 2018-06-08 23:29

谷歌公司终于宣布了公司将明确禁止把AI技术用于武器研发、侵犯人权等用途,并正式退出之前与美国军方合作过的Maven项目。但外界仍有声音表示谷歌的举措并不能保证未来AI不会被用于邪恶目的。谷歌公司对外发布了关于使用人工智能(AI)的七项指导原则,称不会使用AI技术作恶。媒体6月7日报道,谷歌公司CEO皮查伊(Sundar Pichai)于当地时间6月7日早上发布了谷歌关于使用人工智能(AI)的七项指导原则。其中包括不会将AI技术应用于武器开发、不会违反人权准则将AI技术用于监视或收集信息、不会致使AI技术引发或加剧社会不平等。

如果人工智能被用于武器开发会怎么样?谷歌公司会涉足吗?

对此,皮查伊称“谷歌已认识到,强大的AI技术同时会引发很大的问题,对AI技术的开发与使用,未来将会对社会产生深远影响。”在表示退出Maven项目的同时,Google也表示,与军方展开的AI合作,比如在维护网络安全,征兵与培训士兵等领域的合作仍将继续。据了解,事件的起因是在2017年4月,媒体曾披露了一份时任美国国防部长沃克(Bob Work)所写的备忘录。备忘录中,沃克写到谷歌公司参与了五角大楼的一项名为Maven的项目。该项目旨在利用AI技术,帮助国防部门从图像和视频中提取值得关注的对象。

如果人工智能被用于武器开发会怎么样?谷歌公司会涉足吗?

此事曝光之后,随即就引起了包括谷歌内部员工在内的各界人士对谷歌公司的指责。4,000多名谷歌员工也因此曾联名写情愿信,要求谷歌立即终止与美国军方的该项合作。最终在内外压力下,谷歌不得不对Maven项目进行搁置。对此,外界认为谷歌明确AI使用手册的主要目的有两个: 首先,坚持秉承其公司运营的基本理念“不作恶”。如果谷歌将AI技术用于武器研发、监视个人、收集并转手用户信息等用途,那无疑是和“不作恶”理念相冲突的。 其次,确立行业规则,保证AI技术在未来公平且合理地利用。

如果人工智能被用于武器开发会怎么样?谷歌公司会涉足吗?

实际上,除了谷歌以外,IBM、微软、亚马逊等竞争对手都在密切关注着与美国军方进行合作,甚至这些公司曾参与类似的项目竞标。此前,国际机器人武器控制委员会(ICRAC)在写给谷歌母的公司Alphabet的公开信中曾明确指出微软和亚马逊已经参与了与国防部合作的类似项目。对于谷歌这份守则能否保证谷歌不会用AI技术作恶,也有声音对此表达了质疑。《纽约时报》认为,谷歌的这份守则不能保证将该公司完全排除在类似Maven的合同之外。而谷歌另外还能可能面临的问题就是,一旦对AI技术的开发变为开源项目,那么认为人都可能用之作恶。

延伸阅读: