没有掌声，没有联合声明，连摄像机都被关掉了。据《华盛顿邮报》9月26日报道，本月早些时候在联合国举行的一场关于致命自主武器的谈判，在最后一天突然变了味道：闭门会议开场，联合国摄像机被关闭，民间社会观察员被请出会场，美国和俄罗斯的外交官则紧急召集律师，开始对条约文本动手。这场原本用来给人工智能武器划定伦理与安全边界的谈判，就这样在最关键的时刻拉上了幕布。
被摆上手术台的并不是什么边角料条款。报道援引3名知情人士以及该报查阅到的文件说，美俄外交人员在最后一天对文本进行了大幅修改，删除多项旨在保障人工智能武器安全使用的条款，其中包括要求相关系统以“可预测”和“可靠”的方式运行，以及在使用这类武器时应当考虑伦理因素。
更值得警惕的是另一条被删除的内容：在发动打击之前，由人类对人工智能系统确定的军事目标进行审查。这一条一旦消失，意味着目标锁定到开火之间的那道人工闸门，随时可能被拆掉。原本设计用来防止机器自行决定生死的机制，就在最后一天的文本修改中被抹去了。
报道中还有两个细节耐人寻味。其一，美俄双方各自调集约10名律师参与文本修改，人数几乎是其他代表团外交人员的两倍；其二，修改速度之快，令规模较小的代表团应接不暇。当谈判桌上只有两方带着成建制的法律团队进场，而其他人连条款都来不及读完，所谓多边协商也就只剩下形式了。
报道援引专家观点称，如果针对致命人工智能武器的规则过于薄弱，可能意味着机器能够在不受人类控制的情况下作出生死攸关的决定，其实际影响可能包括更多平民伤害、更少问责，以及更快滑向风险更高的自动化战争。这句话翻译成大白话就是：出事之后，责任可能找不到人，而战火蔓延的速度会超出人类反应的时间。
还需要看清这场谈判的性质。报道明确指出，这一联合国谈判目前不具备法律约束力，但如果成员国达成一致，相关谈判可能为达成具有法律约束力的条约铺平道路。各国将于11月在日内瓦再次举行会议，讨论是否进一步推动制定具有法律约束力的条约。也就是说，最后一天被删掉的条款，并非终局，真正的较量还在后面。
与此同时，美国自身的动作也没有停下。报道提到，美国防部正在修订其关于自主武器使用的指令。而今年6月，美国总统特朗普签署了一份国家安全备忘录，要求在90天内更新美国防部有关自主武器使用的指令。一边在国际场合弱化安全条款，一边在国内加速推进相关指令的更新，两条线并行的意味不难读出。
美俄在自主武器问题上的立场趋同，折射的是双方在军事技术领域内的共同利益：都不愿被规则束缚，都希望继续推进各自的军工发展。尽管风险摆在明面上，他们更愿意守住武装层面的优势，而不是从长远角度反思安全问题。当技术跑在规则前面，而掌握技术的一方又主动拆掉护栏时，留给世界的就不只是一份被修改的文本，而是一个更难预测的未来。
恒运资本提示：文章来自网络，不代表本站观点。
