• 没有理由相信领导力会免受人工智能的影响

任何在战区服过役的军人都会告诉你,在战斗中,领导力是至高无上的,它实际上意味着悲剧与胜利之间的差别。但是,在前线作战单元中,领导力在极端逆境和持续面临暴力死亡或重伤威胁的情况下,几乎具有其自身的独特性。澳大利亚陆军将领导力奉为在动荡、复杂和模棱两可的环境中取得成功的基础。因此,对士兵的指挥和领导,包括对陆军机构的管理,被认为是一种特权,也是在各级组织中晋升的必要前提。

  • 迄今为止,领导力一直是人类独有的现象,但随着智能机器人系统在人机作战团队中的实际应用,这种情况可能会发生意想不到的变化。

通过强有力的领导取得成功的基础是 "任务式指挥 "的实践。"任务式指挥 "是一种指挥哲学,即为下属提供明确的方向或指挥官的意图,包括完成任务所需的资源和限制条件。 这一理念的关键区别在于,下属可自由决定如何实现指挥官的预期结果。这种方法具有灵活性和适应不断变化的战术形势的能力。然而,它也承担了一定的风险,因为在近距离作战的压力下,下级的决定或缺乏决定所产生的二阶效应可能会带来不利的结果。那么,就自主现代化而言,未来在作战情况下如何行使任务式指挥呢?下面这段乌托邦式的叙述说明了这种情况可能会如何发展。

  • 2018 年制定的《机器人与自主系统战略》到 2028 年将成为现实,因此陆军的部队结构和陆地作战系统能力发生了重大转变。其中包括为适应新模式而制定的机电机动条令,即人类开始 "领导 "有生命的机器,包括仿人机器人,以实现定向军事目标。到 2033 年,机电特遣单元准备在两栖特遣舰队的海上转运后,从直升机着陆坞部署到外国海岸。

  • 智能侦察无人机的飞行部署是为了确保海滩登陆点没有威胁。实际地点是安全的,但无人机发现五公里外的山上有几个人。无人机算法确定他们不构成威胁,因此报告一切正常。 然后,当登陆艇将机电机动小队送上岸时,海滩上爆发出火焰和沙子喷泉,重型火炮进行了致命的精确轰炸。远处山丘上那支看似不起眼的小分队原来是一个隐蔽炮兵团的前方观察员。

这个虚构的场景突出了与机电任务式指挥有关的两个相关问题。首先,什么是威胁的概念可以由智能机器进行计算解释。而人类侦察员可能已经意识到一个俯瞰着陆点的小队的重要性,并进行了报告。因此,为侦察而配置的无人机将需要专门的算法和机载智能处理,以避免类似上述叙述的灾难性结果。其次,无人机的任务参数仅限于海滩登陆地点的安全,因此,在无人机的有限推理中,远在数公里之外的一小队人类无法对登陆艇产生实际影响。这凸显了在没有人类监督的情况下,变量分析和决策算法存在缺陷所带来的风险。

因此,武器化无人机和人工智能(AI)机器人系统应该有多大的决定 "自由"?

  • 看来,最关键的问题是,军事任务式指挥的理念和实践能否切实优化数字算法和源代码?或者这仅仅是一个复杂的软件工程问题?

或者,为了降低战略风险,对于没有良知或不懂得战术耐心的机电战斗系统来说,采用严格僵化的方法来执行特定的定向任务,是否会成为未来的发展方向?如果是这样,也可能存在机会成本和采用固定方法产生次优结果的风险。答案很可能会在算法工程和源代码开发中找到。算法提供了完成任务的步骤或数字规则和 "行动",而源代码则是用于执行算法指令的计算机语言。因此,这将是自主能力的 "秘诀",也是需要进行大量研究和开发的学科,以确保其在不可避免地与战斗机器融合时,能够满足目的并确保安全。

因此,机电任务式指挥可能会通过通用源代码为整个自主部队进行配置,并为特定军事功能提供量身定制的算法。这或许是人机作战团队中不同系统之间实现自主互操作性和统一性的需要?然而,自主部队的企业代码看似合乎逻辑,但管理起来可能过于复杂,而且更容易受到企业级网络破坏的影响。因此,一个更完美的解决方案可能是为每一类自主系统开发定制的源代码,同时使用数学和光子密码安全密钥,包括管理自主网络的专用数字网关。因此,这些都将是未来几年陆军可能要解决的棘手的设计问题,因为自主系统的决策参数很可能会在战争的作战和战略层面得到复制。

  • 此外,考虑到未来的冲突可能会变成战争算法的较量,这一点相当令人警醒。

如果这种情况真的发生,那么拥有最聪明、最能干的机器的一方可能会在战斗中失败,这与 "卓越的领导和训练有素的士兵总是会取得胜利 "这一既定观念背道而驰。由此推论,智能作战系统的脆性也可能导致战术失败,尤其是在第一代人工智能发展的初期。但当第三代或第四代人工智能投入实战,脆性被完全克服后,这种情况又会如何演变?最终,智能机器如何应对战争迷雾和战斗中不断出现的一系列棘手问题,可以归结为一个聪明的计算机程序和先进的材料科学。然而,作为军事物联网的一部分,如何配置独特而复杂的智能机器并使其大规模运行,还有待观察。

  • 基于合成算法的战争方法将打破既定的军事规范,因此商定的标准和协议对于系统思维过程至关重要。

任务式指挥算法可能还有很长的路要走,而自主武器系统的伦理和合法使用本身已经成为一个词典。此外,考虑到无生命的军事系统在未来战争中能够与人类战士自由对话,与他们共患难,甚至在近距离战斗中拯救他们的生命,也是很有启发性的。 如果人工智能系统能够模仿人脑,并与仿人生物机器人或软机器人系统成功融合,合成战友关系的概念将更有可能实现。那么,这种新兴技术将如何改变人机作战团队中的军事领导动态?我们是否也有可能看到智能机器人系统领导其他智能机器实现人类指挥官的意图?这似乎是有道理的;因此,机电领导算法也可能出现在自主的未来。谁能想到呢?

  • 显而易见的是,战斗领导力背景下的人工智能概念可能是社会面临的下一个道德挑战,也是社会对军队的期望。

可以想象,自主性这一特征可能代表着领导力理论的新篇章,也代表着人类激励他人取得伟大成就的历史实践。设计者将不得不考虑,当有生命的机器自身的逻辑源代码和算法显示任务成功的可能性很低时,它们是否会学会质疑人类或其他 "类机器 "的命令。如果智能机器对命令提出异议,人类是否有必要行使绝对否决权?如果人类下属对 "仿人合成战友 "产生了强烈的 "亲和力",尤其是在知道机器人最终将成为牺牲品的情况下,作战领导者将如何协调?此外,智能仿人机器会表现出多少 "个性",还是说它们必然不具备人类的特征?虽然这些关键问题的答案尚待揭晓,但可以肯定的是,随着陆军进入划时代的技术拐点,战斗领导力将成为成功的先决条件,就像坦克和飞机进入战场一样。

参考来源:Lieutenant Colonel Greg Rowlands

成为VIP会员查看完整内容
44

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
人工智能的崛起: 对野战部队的影响
专知会员服务
31+阅读 · 2024年4月14日
美海军探索人工智能用于对抗性的后勤和任务规划
专知会员服务
63+阅读 · 2024年1月16日
美国陆军测试人工智能驱动的通信技术
专知会员服务
41+阅读 · 2023年12月16日
信任机器智能:军事行动中的人工智能与人机协作
专知会员服务
68+阅读 · 2023年10月29日
智慧战:21 世纪军事战术的范式转变
专知会员服务
84+阅读 · 2023年10月19日
从规划到执行:人工智能在军事行动中的作用
专知会员服务
106+阅读 · 2023年9月22日
人工智能对指挥与控制系统的潜在影响
专知会员服务
57+阅读 · 2022年6月5日
人工智能: 国防部应改进战略、库存流程和协作指导
专知会员服务
41+阅读 · 2022年4月11日
基于深度元学习的因果推断新方法
图与推荐
11+阅读 · 2020年7月21日
人工智能时代智能化海战模式
科技导报
20+阅读 · 2019年7月5日
语音情绪识别|声源增强|基频可视化
深度学习每日摘要
15+阅读 · 2019年5月5日
机器学习算法集锦:从贝叶斯到深度学习及各自优缺点
人工智能学家
11+阅读 · 2019年2月15日
无人机集群、蜂群与蜂群算法
无人机
91+阅读 · 2018年9月25日
智能无人作战系统的发展
科技导报
32+阅读 · 2018年6月29日
深度学习在推荐系统上的应用
架构文摘
13+阅读 · 2018年2月22日
国家自然科学基金
42+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
45+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
50+阅读 · 2011年12月31日
国家自然科学基金
21+阅读 · 2009年12月31日
A Survey of Large Language Models
Arxiv
448+阅读 · 2023年3月31日
Arxiv
68+阅读 · 2022年9月7日
Arxiv
10+阅读 · 2020年11月26日
Arxiv
26+阅读 · 2020年2月21日
Augmentation for small object detection
Arxiv
11+阅读 · 2019年2月19日
VIP会员
相关VIP内容
人工智能的崛起: 对野战部队的影响
专知会员服务
31+阅读 · 2024年4月14日
美海军探索人工智能用于对抗性的后勤和任务规划
专知会员服务
63+阅读 · 2024年1月16日
美国陆军测试人工智能驱动的通信技术
专知会员服务
41+阅读 · 2023年12月16日
信任机器智能:军事行动中的人工智能与人机协作
专知会员服务
68+阅读 · 2023年10月29日
智慧战:21 世纪军事战术的范式转变
专知会员服务
84+阅读 · 2023年10月19日
从规划到执行:人工智能在军事行动中的作用
专知会员服务
106+阅读 · 2023年9月22日
人工智能对指挥与控制系统的潜在影响
专知会员服务
57+阅读 · 2022年6月5日
人工智能: 国防部应改进战略、库存流程和协作指导
专知会员服务
41+阅读 · 2022年4月11日
相关资讯
基于深度元学习的因果推断新方法
图与推荐
11+阅读 · 2020年7月21日
人工智能时代智能化海战模式
科技导报
20+阅读 · 2019年7月5日
语音情绪识别|声源增强|基频可视化
深度学习每日摘要
15+阅读 · 2019年5月5日
机器学习算法集锦:从贝叶斯到深度学习及各自优缺点
人工智能学家
11+阅读 · 2019年2月15日
无人机集群、蜂群与蜂群算法
无人机
91+阅读 · 2018年9月25日
智能无人作战系统的发展
科技导报
32+阅读 · 2018年6月29日
深度学习在推荐系统上的应用
架构文摘
13+阅读 · 2018年2月22日
相关基金
国家自然科学基金
42+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
45+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
50+阅读 · 2011年12月31日
国家自然科学基金
21+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员