【编者按】在人工智能技术狂飙突进的今天，一场关于伦理与杀戮的尖锐对峙正在硅谷与五角大楼之间爆发。当科技巨头们争相将军用订单视为“皇冠上的明珠”，一家名为Anthropic的AI公司却以近乎悲壮的姿态，拒绝将自家聊天机器人Claude用于自主武器系统。这不仅是商业路线的抉择，更触及了技术伦理的深渊——我们是否应该让会“幻觉”的算法决定生死？令人玩味的是，这场道德坚守意外点燃了消费者的热情，Claude下载量逆袭ChatGPT，民众用指尖投票表达对“不作恶”的渴望。而曾经大肆鼓吹AI神力的行业，如今却不得不亲手拆解自己建造的海市蜃楼。这场风波撕开了AI军用的残酷真相：当技术神话撞上血肉之躯，所有的算法误差都将以生命为代价偿还。
Anthropic对美国军方使用人工智能的道德立场，正在重塑顶尖AI公司间的竞争格局，同时也暴露出一个日益增长的认知：也许聊天机器人根本不足以胜任战争行为。
市场研究机构Sensor Tower数据显示，Anthropic的聊天机器人Claude本周在美国手机应用下载量首次超越竞争对手ChatGPT。这标志着消费者在Anthropic与五角大楼的对峙中，正用行动表达支持。
在Anthropic首席执行官达里奥·阿莫迪拒绝让公司防止技术被用于自主武器和国内大规模监控的伦理护栏妥协后，特朗普政府周五下令各政府机构停用Claude，并将其指定为供应链风险。Anthropic表示，一旦收到处罚正式通知，将在法庭上挑战五角大楼。
尽管许多军事和人权专家称赞阿莫迪坚守伦理原则，但一些人也对AI行业多年来通过营销说服政府将技术用于高风险任务感到沮丧。
“这场混乱正是他造成的，”前海军战斗机飞行员、现任乔治梅森大学机器人及自动化中心主任米西·卡明斯说，“他们曾是头号鼓吹这些技术能力的公司，炒作得离谱。现在却突然想认真了，想告诉人们‘等等，我们真不该把这些技术用在武器上’。”
Anthropic未立即回应置评请求。美国国防部以作战安全为由，拒绝评论是否仍在包括伊朗战争在内的行动中使用Claude。
卡明斯去年12月在顶级AI会议上发表论文，主张政府机构应禁止使用生成式AI“控制、指挥、引导或操纵任何武器”。并非因为AI聪明到可能失控，而是因为Claude等聊天机器人背后的大语言模型错误太多（称为幻觉或虚构），且“本质上不可靠，不适用于可能导致人员伤亡的环境”。
“你会杀害非战斗人员，”卡明斯周二接受美联社采访时说，“你会杀害己方部队。我不确定军方是否真正理解这些局限性。”
阿莫迪上周为Anthropic的伦理立场辩护时，特别强调了这些局限：“前沿AI系统根本不够可靠，无法驱动完全自主的武器。我们不会明知故犯地提供可能危及美国作战人员和平民的产品。”
直到最近，Anthropic仍是同行中唯一获准用于机密军事系统的公司，曾与数据分析公司Palantir等国防承包商合作。特朗普总统周五表示，五角大楼将有六个月时间逐步淘汰Anthropic的军事应用——几乎在同一时间，他批准了周六对伊朗的军事打击。
曾任Palantir顾问的卡明斯表示，Claude可能已被用于军事打击规划。
“我衷心希望当时有人类参与决策循环，”她说，“人类必须严密监督这些技术。你可以用它们做这些事，但必须反复核实、核实、再核实。”
她指出，这与AI公司暗示其技术已发展到“近乎有知觉”的营销说辞形成鲜明对比。
“如果要追究责任，我认为一半归咎于Anthropic的过度炒作，另一半是战争部的过错——他们开除了所有本可能劝阻他们愚蠢使用技术的人。”卡明斯说。
本周有社交媒体评论员将Anthropic的政府问题称为“炒作税”——这个说法被特朗普的首席AI顾问、该公司频繁批评者大卫·萨克斯转发。
尽管这场风波给Anthropic带来了可能危及其与其他军事承包商合作的法律麻烦，但也巩固了其作为注重安全的AI开发者的声誉。
“一家公司为了坚守其认定的伦理和商业选择，不惜对抗政府，即使面临可能摧毁企业的政策反击，这值得赞赏，”倾向自由主义的卡托研究所高级研究员詹妮弗·赫德尔斯顿说。
消费者已经用行动表态。Sensor Tower数据显示，Claude下载量激增，使其从周六起成为最受欢迎的iPhone应用，周一更登顶全美手机系统下载榜。这代价是OpenAI的ChatGPT用户声誉受损——该公司周五宣布与五角大楼达成协议，将在机密环境中用ChatGPT取代Anthropic。
在苹果商店，ChatGPT的一星差评（最低评分）周六激增775%，本周初持续增长，反映出强烈反弹迫使OpenAI进行损害控制。
“我们周五不该急于宣布此事，”OpenAI首席执行官萨姆·奥尔特曼周一在社交媒体发文，“问题极其复杂，需要清晰沟通。我们真心试图缓和事态，避免更糟结果，但看来这显得投机且草率。”
奥尔特曼周二召集全体员工开会讨论后续步骤。
“这项技术尚未准备好应对许多场景，我们也不清楚在安全方面需要做出哪些权衡，”奥尔特曼在X上表示，“我们将与（五角大楼）共同缓慢推进，通过技术保障等措施解决这些问题。”
