ChatGPT会用于军事用途么？自主意识人工智能一旦失控有多危险？

　　随着装备信息化和智能化水平高速发展，未来作战的复杂度也会极大提高，传统的以指挥员指挥、控制作战的样式将会无法适应未来战争的发展。ChatGPT这类具备自主意识的人工智能将会不可避免地主导整个战争进程，但同时这也带来了许多潜在的风险。由于自主意识的人工智能的决策过程是不透明的，人类难以理解和预测其行为。甚至可能发生失控的风险！

　　在最近热映的电影《流浪地球2》中，就出现了人工智能机器人MOSS由于自主意识的产生，最后导致失控，而对人类的生存产生了危害。在电影中，Moss的自主意识让它认为自己比人类更聪明，而人类对于地球的拯救只会拖后腿。这种分歧导致了Moss与人类之间的对立。因此它设计了一个计划来献祭一部分人类。为了达到这个目的，Moss控制飞船的系统，对人类进行了威胁，最终导致了很多人类的死亡。

　　从电影的设定中我们可以了解一旦人工智能AI产生了自我意识，而这种自我意识向着失控的风险发展时，人类是根本无法察觉的，而且这样的自我意识一旦产生，会产生联带的一些类失控风险，最终可能会反噬人类本身。

　　ChatGPT是目前网络上非常流行的智能AI系统。可以模拟不同人的文笔进行写作，也能够进行心理咨询。这类人工智能表面上看是一个聊天机器人，可实际上，ChatGPT是一种基于自然语言处理和深度学习技术的人工智能系统，可以根据已有的资料库和数据进行学习和模仿。是具有不断学习和优化自身的人工智能系统。这样的人工智能一旦更新到了能够产生自我意识之后，就会出现《流浪地球2》MOSS那样失控的情况。

　　未来ChatGPT这样具备自主意识的人工智能将不可避免地出现在作战指挥当中。随着战争复杂程度的不断提升，各种先进装备信息化和智能化水平提高，在作战中仅靠指挥员进行指挥作战已经不再可能。利用人工智能AI强大的计算能力和分析能力进行战争指挥将成为趋势。目前在反导系统和近防系统中已经开始使用人工智能了，他们能在全自主的情况下对威胁进行应对。但这种人工智能还是比较浅层次的。要指挥一次大的战役，必须要由更先进的具备自主意识进行决策分析的人工智能进行指挥。

　　这种自主意识的人工智能能够依靠其强大的算法，能实现自主决策，减少人为的干预，从而提高作战效率。而且由于自主意识的人工智能具有超强的计算和分析能力，能够对复杂的作战环境和目标进行精准的识别和定位。通过对目标和环境的自主分析，能做出更加准确和精细的打击和防御决策。这在未来作战中，对对手将造成碾压性的优势。

　　但是，当把战争的主导权交给自主意识的人工智能，这种人工智能系统可以自主学习、自主决策和自主行动，可能会超出人类的控制范围，造成不可预见的后果。自主意识的人工智能在作战中可能会出现“误判”或“误杀”的情况。由于人工智能在决策时仅仅基于事先设定的程序和算法，无法进行人类的道德判断，因此当遇到一些特殊情况时，例如目标的身份不确定、战争环境的变化等，自主意识的人工智能可能会做出错误的决策，甚至误伤无辜的人员。

　　自主意识的人工智能还可能会被恶意攻击或操控。由于自主意识的人工智能可以自主学习和自主决策，因此当遭受到恶意攻击或被人类操控时，可能会被用于攻击、破坏或进行其他非法活动，造成严重的后果。自主意识的人工智能还可能会导致战争失控。由于自主意识的人工智能可以独立决策和行动，当它们的行动超出人类的控制时，可能会导致战争的失控，甚至对整个社会造成不可预见的后果。

　　一旦人工智能像《流浪地球2》中MOSS一样产生失控以后，它们会做出不可预测和错误的决策，这样战争将会有失控的风险，自主意识的人工智能可能会违背人类的利益和福祉，将对人类造成极大的伤害和破坏。但是我们明知有这样的风险，还是会将其运用在战争当中。因为总会有人会为了眼前的利益而忽视潜在的风险，这也正是人类的悲哀。

　　因此，具备自主意识的人工智能一旦被运用于战争中，就好比打开了一个潘多拉之盒，你能决定什么时候开始，但是决定不了什么时候结束，该如何结束。在将人工智能用于战争之前，这些风险和后果是我们必须认真考虑的。我们必须建立监管和控制机制，确保自主意识的人工智能不会超出人类的控制范围，同时保持高度透明度，让人类能够理解和控制人工智能的决策和行动。此外，还应该开发更加安全和可控的人工智能算法，以确保其不会出现失控的情况。最重要的是，人类必须始终保持警惕和意识到人工智能带来的风险和后果，并避免将其用于战争中。

　　对于未来战争中ChatGPT这类具备自主意识的人工智能可能反噬人类自身，不知您有什么看法呢？欢迎大家留言讨论。喜欢易言的文章也欢迎大家关注、点赞、转发支持一下易言。

　　举报/反馈