编者按：在校园安全日益成为社会焦点的今天，人工智能安防系统被寄予厚望。然而，当一支单簧管被AI判定为“步枪”，当薯片袋触发特警响应，我们不得不思考：技术守护与过度警戒之间的界限何在？本文记录了一起令人啼笑皆非的乌龙事件，背后折射出美国校园在枪击阴影下对AI监控的依赖与争议。当算法将乐器识别为武器，当圣诞变装引发全城警戒，这场闹剧不仅暴露了技术局限，更引发对校园隐私、学生心理及应急资源消耗的深层拷问。安全与自由的天平，该如何校准？
上周警报发出几分钟后，警方就赶到了佛罗里达州那所中学。
监控摄像头探测到楼内有一名身穿迷彩服的男子，“疑似武器指向走廊，以肩扛步枪的姿势持握”。
奥维耶多学校随即进入封锁状态。警方报告显示，一名警官搜查了教室，但既未找到此人，也未听到任何骚动。
随后调度员补充了一个细节。
他们对标记给警方的图像进行仔细复核后告知警官：那支“疑似步枪”可能是一件乐队乐器。
警官前往学生藏身的乐队教室，找到了“罪魁祸首”——一名因主题变装日穿着军装的学生，以及那件“疑似武器”：一支单簧管。
运营该系统的安全公司ZeroEyes表示，这起乌龙事件源于劳顿·奇尔斯中学使用的人工智能监控系统误将单簧管识别为武器。该公司与劳顿·奇尔斯所属学区签有合约。
与全美越来越多的学区一样，塞米诺尔县公立学校已引入AI监控以加强校园安保。
ZeroEyes售卖的威胁检测系统能扫描监控视频，搜寻武器或违禁品迹象，一旦发现便立即向执法部门报警。
在高致命性校园枪击案频发的时代——例如周六布朗大学造成2死9伤的袭击——此类系统的需求日益增长。
部分校园安全及隐私专家指出，佛罗里达州中学这起事件反映了校园威胁检测系统误报的普遍趋势，使学生承受不必要的怀疑与压力。
“这些都是未经充分验证的技术，却被宣传能提供高度确定的安全保障。”K-12校园枪击数据库创始人戴维·里德曼表示。
据ZeroEyes和里德曼证实，他于2023年9月受聘担任该公司行业研究总监，并于同年离职。
ZeroEyes称，警报发出前会经培训人员复核，其软件能在数秒内向执法部门警示校园武器，为阻止大规模枪击争取宝贵时间。
公司联合创始人萨姆·阿拉伊莫向《华盛顿邮报》透露，在劳顿·奇尔斯中学，被系统标记的学生当时正以持步枪的姿势握着乐器。
“我们认为自己没有出错，校方也这么认为。”阿拉伊莫说，“发出警报（让警方出动）总比不发出好。”
塞米诺尔县公立学校拒绝对周三事件置评，但提供了事后发给劳顿·奇尔斯学生家长的信件副本。
“尽管校园并未受到真实威胁，仍请各位与孩子探讨在校内假装持械的危险性。”校长梅丽莎·劳达尼写道。
ZeroEyes发言人奥尔加·什穆克利尔表示，其产品已在48个州投入使用，过去三年检测到超过1000件武器。
这类系统通常通过分析海量样本数据（如持枪者图像）进行训练，以实时匹配安全风险。
但它们有时也会犯错。
去年10月，马里兰州巴尔的摩县的家长和官员要求审查另一套AI威胁检测系统——该系统将一袋多力多滋薯片误判为枪支并发出警报，导致一名高中生被戴上手铐。
据圣安东尼奥新闻4台报道，2023年德克萨斯州克卢特市一所高中因ZeroEyes误报“有人携带步枪”而全面封锁。
另一起案例中，某威胁检测系统未能阻止致命的校园枪击。
CNN报道称，纳什维尔安提阿高中案发时已配备AI监控软件用于检测枪支，但17岁枪手因距离监控摄像头过远未被识别武器。
其他监控学生在校设备活动的系统也因误指控学生及侵犯隐私受到批评。
去年9月，堪萨斯州高中生因美术作品被监控工具误标为色情内容而对学区提起诉讼。
媒体报道及该公司资料显示，ZeroEyes自2021年起与塞米诺尔县公立学校密切合作，当年曾在奥维耶多高中现场演示其系统检测枪支的能力。
“我们对这项技术非常非常满意。”塞米诺尔县学校公共安全主任理查德·弗朗西斯当时向福克斯35台新闻表示。
阿拉伊莫称，公司雇用具有军事或执法经验的员工审核AI标记的潜在威胁，他们“压力下保持冷静，且极擅枪支识别”。
他解释，劳顿·奇尔斯中学被标记的图像显示，学生正以瞄准姿势将单簧管对准门，“极似即将行凶的枪手”。
警方报告显示，接警警官询问了持单簧管的学生。学生解释自己是为圣诞主题变装日打扮成圣诞电影《红色一号》中的军人角色。
报告称，学生表示“未意识到”持乐器姿势会触发警报。警方未采取进一步行动。
研究校园安防系统的美国公民自由联盟高级政策顾问查德·马洛指出，劳顿·奇尔斯事件表明，即使有人工复核，ZeroEyes这类系统仍可能出错。
“如果计算机技术告诉人工审核员检测到枪支，且每秒钟都至关重要，审核者往往会倾向于判定为武器。”他说。
教育者校园安全网络运营主任阿曼达·克林格补充道，误报可能导致“警报疲劳”，若武装警察为搜捕枪手进入校园，反而可能引发危险。
“我们必须清醒认识这些技术的局限性。”克林格强调。
阿拉伊莫则表示，ZeroEyes及其合作学区宁愿稳妥也不愿事后追悔。
“学区负责人、校园联络警官、警察局长、安全主管都会说：‘只要有丝毫怀疑，宁可更主动、更倾向于发出警报。’”他说，“因为他们想保障人们的安全。”
本文由路知网原创发布，未经许可，不得转载！
本文链接：https://m.yrowe.com/bz/86508.html
