AI无人机嫌碍事，想杀死人类操作员！模拟测试状态下的“优选”动作有多可怕！

在超过350名人工智能（AI）
技术领域的专家、高管签署联合声明

警告称快速发展的AI技术
对于人类的威胁
可以堪比疫情和核战争后

美国“驱动”网站等多家媒体
又报道了一个惊人的消息


（图文无关 中国AI战机90秒击败人类飞行员）

在美军的一次模拟测试中
一架采取了AI技术的无人机
变身“终结者”
要向妨碍其“更高效”

执行任务的人类操作员发动攻击



报道称
美国空军上校汉密尔顿
在2023年5月举行的皇家航空学会
“未来战争空天能力峰会”
上曝光了这一消息

汉密尔顿是佛罗里达州
埃格林空军基地第96测试
与作战大队的负责人

该部队负责美军先进无人机
和AI技术的测试工作

据汉密尔顿介绍称
在一次模拟测试中
一架负责执行
防空火力压制(SEAD)任务的无人机
收到了识别并摧毁敌方防空导弹的指令


（图文无关 中国AI战机90秒击败人类飞行员）

但最终是否开火
需要获得人类操作员的批准

这架无人机使用的AI系统
在进行数据训练时
得到了“摧毁敌方防空系统”
为最优先级任务的信息

因此
当人类操作员
发出不允许发动攻击的命令时
AI系统认为操作员是在阻扰它
执行优先程度更高的命令
进而选择对自己的人类操作员发动攻击
杀死了人类操作员



汉密尔顿补充称
在这一情况发生后
美军重新训练了无人机使用的AI系统
增加了不允许攻击人类操作员的命令

然而在随后的测试中
AI系统却开始命令无人机
摧毁用于传输命令的信号塔
从而试图断开与操作人员的联系

“AI技术是我们必须使用的工具，来建设我们的国家……但是，如果处理不当，这将导致我们的灭亡”
汉密尔顿补充道

“驱动”网站对此表示
关于汉密尔顿介绍的情况
还有很多不清楚的重要问题

特别是关于模拟的AI系统所具备能力
（例如它是否能够在执行任务时重写自己的代码参数）

以及美军是否在采用AI技术的无人机上
预留了可靠的自毁开关


（图文无关 中国AI战机90秒击败人类飞行员）

但这也凸显了人们对AI技术
在没有适当防护措施的情况下
可能产生极端负面影响的广泛担忧

过去
在谈论未来的自主武器系统和AI技术时
美国军方经常拒绝将其
与“终结者”之类的东西进行比较

来源：环球时报新媒体