去年举办的联合国特定常规武器公约会议上，一段的视频：视频中，一群神似《黑镜III》中机器蜂的小型机器人，通过人脸定位瞬间了正在上课的一众学生，场面。
伯克利大学教授、资深AI研究者Stuart Russell在视频的最后提醒人们，想象一下，这些致命的自动武器一旦落入恐怖之手，可能造成怎样的后果。
一个体型类似蜜蜂的小型机器人飞入会场并轻易躲过人，其拥有 anti-sniper 技术，完全基于 AI。
看到这个武器，小编立马想起了《三体》里一种终极形态的武器——“水滴”，它形状与普通水滴相似，由被强互作用力紧密锁死的质子与中子构成，密度巨大，，仅一个水滴就能接连摧毁人类的一千多艘飞船，打击方式也是直接、精准穿透关键部位，和这段视频里一样。
视频最后还演示了一段飞行机器人集体人类的画面，通过面部识别定位，轻易了正在上课的一班学生。
在视频结尾，Russell发出，尽管这段视频和其中的机器人并非真实，但视频中的科技目前已经存在。要避免视频中的悲剧发生，我们需要尽快行动。
这段视频发布在本月13-17日的联合国特定常规武器公约会议上，这一会议由“杀手机器人运动”（Campaign to Stop Killer Robots）组织，超过七十个国家的代表出席。
一年前，马斯克和谷歌AI专家Musta Suleyman等116名全球人工智能和机器人领域的专家就曾发表，呼吁联合国采取行动“自主机器”，称其为“恐怖武器”。专家们认为，AI越发达，机器越厉害，杀伤力就越强。就算机器程序是人类编出来的，面对越来越强大的人工智能，人类控制机器的力量越来越有限，而心怀鬼胎的人利用机器带来的力就越来越强大。
所以，随着AI在军事系统中扮演越来越重要的角色，区分AI可接受的用途和不可接受用途变得更加迫在眉睫。自主武器就像一个潘多拉盒子，充满了，“一旦被打开，就很难再次关上” ，专家们说。
文章马伊琾度假