IT之家 12 月 14 日报道，人工智能 (AI) 驱动的武器检测系统将单簧管误识别为枪支，导致佛罗里达州一所高中校园被错误封锁。这一事件引发公众对美国学校此类安全技术的有效性和管理机制的质疑。当地时间周二，奥维耶多劳顿·奇利斯中学的自动化系统将一名携带单簧管的学生识别为潜在的枪支威胁，从而引发了“红色代码”校园封锁。学校管理人员和警方迅速反应，而其杀人的所谓“武器”是一件乐器。校长梅丽莎·劳达尼（Melissa Laudani）在给家长的一封信中解释说，尽管安全计划已启动，但该事件并未构成任何实际威胁。他写道：“虽然学校没有真正受到威胁，但我仍然希望家长与孩子交谈，强调在学校操场上持武器摆姿势的严重危险。”学校ol 使用宾夕法尼亚州 Zeroeyes 公司提供的人工智能威胁检测平台，该平台可以扫描实时视频片段来识别枪支。劳顿儿童中学所在的塞米诺尔县公立学校与 Zeroeyes 签订合同，部署基于云的“枪支检测威慑系统”。公开记录显示，该学区每年为订阅服务支付 25 万美元，但官员拒绝透露该系统是否成功拦截了任何真正的威胁。 Zeroeyes 系统与现有监控摄像头集成，计算机视觉算法经过 100 多张枪支图像的训练。当AI模型确定屏幕上存在武器时，相关视频片段将发送给Zeroeyes监控中心的人类分析师进行分析，然后在确认后通知执法部门或学校当局。然而，在这种情况下，这种手动审核过程显然不起作用。目前，Zeroeyes平台已部署在43个国家美国各州并安装在佛罗里达州的数十个学区。该公司将这项技术作为一种预防措施来推广，旨在加快对潜在枪击事件的反应。但它几乎没有公布有关测试准确性、误报率或经过验证的干预案例的数据。在回复记者关于人工智能误报的询问电子邮件时，塞米诺尔县学区安全和安保部门将该系统描述为“有效的威慑”，但没有提供有关已确认威胁的任何具体数据，也没有说明该系统的警报有多少是真实的，或者该软件将无害物品误认为武器的频率。家长和安全专家已开始呼吁对此类系统承担更大的责任，并公开其性能数据。一位家长对缺乏透明度表示担忧，质疑该系统是否真正带来了安全方面的显着改善。他要求提供有关该措施有效性的统计证据。系统并询问为什么如果存在真实且已确认的威胁，却从未向公众披露。独立技术分析师表示，目前对 Zeroeyes 的独立分析有限，早期媒体报道褒贬不一。一些公共安全专家对此表示怀疑，认为此类系统可能只会制造“安全假象”，而不会真正降低风险。在 Zeroeyes 是注册游说者的一些州，立法机构已通过采购条款，实际上将其指定为唯一经批准的卖家。批评者表示，这些法律排除了竞争，并绕过了关于人工智能监控系统可靠性的急需的公众讨论。安全和隐私研究人员还担心，将人工智能监控扩展到学校可能对学生弊大于利。美国公民自由联盟 (ACLU) 高级政策专家查德·马洛 (Chad Marlow) 去年告诉 Statescop，一个经常产生误报的系统不仅造成“错误的安全感”，但也可能使儿童经常遭受不必要的封锁或警察介入。近年来，为了应对应对校园枪击事件的公众压力，人工智能驱动的安全系统激增，但奥维耶多误报事件凸显了这些技术在现实环境中的脆弱性。在受控数据集上训练的机器学习模型，在面对充满不可预测因素的校园环境时，例如像枪的轮廓一样的背包、乐器、运动器材等，很容易出现判断错误。目前，塞米诺尔县学区仍然认为该系统是“必要的预防措施”，尽管单簧管事件清楚地暴露了其局限性。学区是否会重新评估对人工智能监控的依赖，或者要求供应商提供更严格、透明的绩效报告，还有待观察。 特别声明：以上内容（含照片）r视频（如有）由自媒体平台“网易号”用户上传发布。本平台仅提供信息存储服务。 注：以上内容（包括图片和视频，如有）由网易HAO用户上传发布，网易HAO为社交媒体平台，仅提供信息存储服务。