致命AI武器:自主猎杀、虚空斩首、认知操控

“人工智能武器只拥有智能,却没有道德。”傅前哨表示,如果允许机器人代替人类进行决策,将带来严重的伦理问题。

“如果你想训练一个AI,就给它200万小时的视频,它就会变成超自然的东西。”奥列克桑德·德米特里耶夫把这些海量视频称为“AI的养料”。

为了防止那样的悲剧出现,李宏洲认为,在AI训练过程中可以借鉴“机器人三大定律”,尤其是将“机器人不得伤害人类”这一基本准则“烙印”至AI系统,或可有效规制AI。

责任编辑:毛淑杰

俄乌战场硝烟未散,AI(人工智能)武器搅动战局。

无人机蜂群突破电磁藩篱,自主猎杀;人脸识别洞悉战场迷雾,直指将帅;虚假信息操控舆论走向,颠覆认知。AI正以其无所不在的渗透力,将现代战争推向一个前所未见的境地。

据《参考消息》2024年12月转引外媒报道,乌克兰正利用无人机在俄乌冲突期间拍摄的数百万小时的战场视频,训练人工智能(AI)模型学习战场决策。真实战场,已然成为AI的“练兵场”。

AI不仅赋能杀戮机器,更在拷问人类伦理底线。

“扳机”该由谁来扣下?谁来为AI造成的伤亡负责?AI机器会带来更多杀戮吗?正如奥地利外长沙伦贝格在2024年自主武器国际会议上发出的警告,“人类正面临奥本海默时刻。”

“机器人战争的时代正快速向我们走来。”军事专家傅前哨表示,无论是空中、地面还是海上,都面临着将“生杀大权”交给机器人的伦理困境。

当地时间2025年1月3日,乌克兰苏梅州,一家受损住宅的院子里,一架受损的俄制无人机残骸。图/视觉中国

当地时间2025年1月3日,乌克兰苏梅州,一所受损住宅的院子里,发现一架俄制无人机残骸。图/视觉中国

AI武器搅动俄乌战场

“如果你想训练一个AI,就给它200万小时的视频,它就会变成超自然的东西。”奥列克桑德·德米特里耶夫(Oleksandr Dmitriev)把这些海量视频称为“AI的养料”。

德米特里耶夫是乌克兰非营利性数字系统公司OCHI的创始人。据《参考消息》转引报道,自2022年以来,德米特里耶夫的系统已经从无人机上收集了超过200万小时的战场视频。而这将为人工智能提供重要的学习数据。

德米特里耶夫表示,这些视频可以用来优化作战策略、识别目标和评估武器效能。

“人工智能程序可以研究武器最有效的轨迹和角度。”他说。

人工智能的大量运用,正在成为俄乌冲突区别于历史上其他战争的最新特征。

过去,电子对抗系统是无人机的一大“天敌”。

乌克兰政府Brave1平台的AI业务负责人马克斯·马卡尔丘克(Max Makarchuk)指出,受电子战系统影响的FPV无人机平均命中率降至30%-50%,而新手操作员的命中率甚至可能低至10%。

而AI,特别是计算机视觉技术的发展,为无人机突破电子战干扰提供了可能性。比如,通过NORDA Dynamics公司开发的计算机视觉瞄准软件,无人机可自主感知环境、增强目标识别与跟踪的能力。在操作员初步标定目标后,无人机即可自主完成后续行动。据报道,截至2024年10月31日,该公司已向无人机制

登录后获取更多权限

立即登录

校对:星歌

欢迎分享、点赞与留言。本作品的版权为南方周末或相关著作权人所有,任何第三方未经授权,不得转载,否则即为侵权。

参与评论


精选评论 (21)


159****1110
回复

159****1110

01-22

恐怖哦,杀人就像玩游戏一样。施暴者再也不会手软。

小小杨不小了
回复

小小杨不小了

01-14

👌

HHS
回复

HHS

01-13

战争的道德边界只能在战争中被确立,然而,谁又希望未来还会持续出现这样一场给人类带来创伤,痛苦,旷日持久的战争呢?

不器
回复

不器

01-13

“扳机”该由谁来扣下?或许这个问题在未来不会由人类来回答。

139****6263
回复

139****6263

01-13

无人机蜂群突破电磁藩篱,自主猎杀;人脸识别洞悉战场迷雾,直指将帅;虚假信息操控舆论走向,颠覆认知。AI正以其无所不在的渗透力,将现代战争推向一个前所未见的境地。AI不仅赋能杀戮机器,更在拷问人类伦理底线。“人类正面临奥本海默时刻。”

山有多高水就有多高
回复

山有多高水就有多高

01-13

AI装备的研发和应用,国际社会必须要规制,万不可大意,不然它们替代人类是迟早的事,人类创造的工具反噬了人类,多么可怕和可笑?!

sky
回复

sky

01-13

太强了,降低士兵死伤

鹏春
回复

鹏春

01-12

构建人类命运共同体已经刻不容缓!

北半球蒲公英
回复

北半球蒲公英

01-12

AI武器的背后是金钱和技术比拼。

远方
回复

远方

01-12

符合宇宙发生、发展灭亡的规律,西方的意识形态已经发展到自我灭亡的阶段!

海西大叔
回复

海西大叔

01-12

未来已来😂。电影终结者的那个时代不远了。

慧行坚勇究畅恒无极
回复

慧行坚勇究畅恒无极

01-12

人工智能最终会与人类共生,相互融合,“板机在人手中还是AI手中”还是二元论的层面。

🍅
回复

🍅

01-12

这锅如果非要AI背,那也只能是40%,人得背60%。

135****9991
回复

135****9991

01-12

AI也需要“道德与法治”,道法并行。

139****2516
回复

139****2516

01-12

如果人类的自主意识不是趋向真善美,不是努力互相理解互相关怀,机器完全有可能接管人类。

麻在北
回复

麻在北

01-12

军事肯定会用ai

南周读书郎
回复

南周读书郎

01-12

Ai用在正确的地方为人类造福;用错地方毁灭人类。

朝彻
回复

朝彻

01-12

“人类正面临奥本海默时刻”!

忧郁的兔子
回复

忧郁的兔子

01-12

在发展与控制中间找到一个平衡点。和平大力的发展,合理严格的控制,为我所用,不能控我。

磊帝
回复

磊帝

01-12

拥抱AI合理使用