道客优

人工智能一旦脱离束缚，就会以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代，这将给我们的经济带来极大的破坏。

——霍金

先来感受下视频里几个可怕的画面：

一个体型类似蜜蜂的小型机器人飞入会场寻找目标, 并轻易躲过演讲人抓捕，因其拥有 anti-sniper（反狙击） 技术，该技术完全基于 AI。

来看看它的攻击效果：一击而中，极端致命！

看到这个武器，让人联想到《三体》里描述的一种终极形态的武器——“水滴”，它与普通水滴形状相似，由被强互作用力紧密锁死的质子与中子构成，密度巨大，无坚不摧，仅一个水滴就能接连摧毁人类的一千多艘飞船，打击方式也是直接、精准穿透关键部位。

“杀手机器人”真的来了么？

这种致命性自主武器系统实际上是一种军用机器人，它可以不经过人类干预，自主选择和攻击包括人员和装备在内的军事目标，所以也被叫做“杀手机器人”。

目前，拥有“人格”的智能技术尚未被从科幻电影搬到现实中，但是与此有关的技术的确正在朝着这个方向发展。例如英国航空航天系统公司（BAE）等开发的Taranis“无人作战飞机”（UAV, Unmanned Aerial Vehicle ），三星制造的 SGR-A1 哨戒炮,已经部署在韩国国界。无人坦克也正在研发中，而人类对致命性无人机的控制只是何种程度的问题。

（视频时长：7 分48秒）

但是，袁培江也表示了与视频中伯克利大学教授、资深AI研究者Stuart Russell同样的担忧：其潜力非常大，可以为国防作出很大贡献。但赋予人工智能自行选择杀人的能力，对我们自身的安全和自由是毁灭性的。我们能阻止你在短片中看到的未来，但是留给我们的时间不多了。

科幻作家阿西莫夫在小说中提出过这样的概念：机器不能伤害人、机器要遵守人类发出的任何命令、机器要自我保护，这就是现在所有人都知晓，大名鼎鼎的机器人三原则。起先，没人把这个概念当回事，因为谁也没见到有在电影院外面乱跑的机器人!这种只存在在电影里的机器人，更多数时候，只能是人类附加的美好设想。但随着时间流逝，科技发展让此种可能无限地接近真实。我们离造出真实机器人越来越近。战争打的是科技。战场是高科技武器集中度最高的地方。无人化，就是最早出现在战场。所以加快无人机，无人车投入实战就成了现实的必须理由。