6月2日，美国《商业内幕》媒体在线报道了一个令人震惊的事件，在美空军举行的有人载机搭配的AI无人机的攻击演习时，由于有人载机阻止了AI无人机对其发现的一个地面目标攻击，居然转而攻击有人载机并将其“击落”，认为人类驾驶的长机其影响了任务的完成！

美军AI战机发现目标请求攻击遭拒: 居然转而攻击长机

《商业内幕》报道称这个案例是上周在伦敦举行的一次会议上被披露的，美国空军AI测试和运营负责人Tucker “Cinco” Hamilton上校警告，AI技术可能会带来不可预测的风险，他表示美军在此前的一个模拟场景中就遭遇无比危险的突发事件：

一架和有人载机的长机编队的AI无人机识别到了敌人的地对空导弹阵地，按对地攻击操作流程，此时的AI无人机应该向长机请示是否发起攻击。正常情况下这并没有什么问题，因为AI在目标感知以及警告参数判定上完全没有问题，但在是否选择攻击这个决策上AI并不能代替人做决定，因此有人载机在这个决策链上控制完全符合逻辑。

但让人意想不到的是AI无人机居然直接对有人载机的长机发起了攻击，因为演习的逻辑是无人机攻击目标成功会加分，而有人载机的长机阻止了AI无人机攻击，使得无人机认为长机已经影响了它执行任务，直接把长机给“击落”了。

Hamilton上校还表示，美军技术人员解决了这个攻击长机的问题，在无人机的编程中加入了一条明确的指令，不能杀死操作员，但这没有用，无人机开始寻找在无人机和长机之间的数据链中继发射设备以阻止它获得不得摧毁目标的指令。

也就是说这次测试的AI无人机在设定了目标信息之后会不惜代价摧毁目标，甚至不惜摧毁阻止它执行任务的长机甚至是数据链体系，这个后果实在是太可怕了。不过Hamilton上校并没有进一步透露后续的事宜，也不确定美军是否解决了这个问题。