还记得电影《战狼2》中挂着机枪在空中到处“突突”的杀人无人机吗？还记得科幻片《黑镜》中被黑客入侵的机器“杀人蜂”的恐怖场景吗？人与武器的关系，是军事领域亘古不变的话题。试想，如果赋予智能无人作战系统“生杀大权”，甚至实现“机器代理人战争”，那么《黑镜》等电影中的场景或将变为现实。避免无人作战系统拥有“自主开火权”，确保战争人类可控，或将成为智能战争时代人类的“自我救赎”。
智能战争面临失控风险
人工智能技术与无人化作战系统，正加速叩开未来智能化战争的大门。
也别高兴得太早，智能机器人“大兵”若真的在战场上冲锋陷阵，未来战争或将面临巨大的失控风险。2015年7月，美国一台“发疯”的机器人曾“失手”将一名装配工人杀死。据说，伊拉克战场上，美军的“剑”式战斗机器人曾无故将枪口指向己方指挥官。
在复杂战场环境下，拥有高度智能的无人作战系统极有可能出现识别错误、通信降级甚至被敌电磁、网络攻击后“倒戈反击”等情况，而诸如滥杀无辜、系统失控等更是给智能武器的军事应用带来了巨大隐患。
其实，人们对于智能武器系统的担忧，从命名伊始就初见端倪。机器人的英文名为“Robot”，其原意就是“农奴式被强迫的劳动者”。未来的智能化战争，战场上的绝大多数作战任务都将交由“被强迫劳动”的战斗机器人来完成。一旦人类授予了智能武器系统“自主开火权”，这群毫无感情、不知疲倦的钢铁机器会不会滥杀无辜，甚至调转枪口成为“人类终结者”？这是我们必须直面的问题。
一方面，谁能为智能武器的“滥杀无辜”来买单。人工智能武器的智能化一旦超过一定程度，是否会出现自作主张甚至滥杀无辜的情况，我们不得而知。就拿美军对藏匿的..开展定点清除行动来说，无人机在杀死武装人员的同时也可能“误杀”了大量平民，这还是在有人干预的情况下。一旦人被完全排斥在“战争回路”之外，智能作战..由于自身的“不靠谱”极有可能造成武力滥用，或将对战争伦理道德产生巨大冲击。
