美國佛羅里達州奧維耶多市的一所中學本周發生了一起由人工智能武器識別系統誤報引發的“紅色代碼”鎖校事件,一名學生手中的單簧管被系統誤判為槍支,校園隨即進入緊急封校狀態,校方和警方迅速響應,最終確認并無真實威脅。 這一烏龍事件不僅讓家長虛驚一場,也再次把校園中日益普及的AI安防系統的準確性與監管問題推上風口浪尖。
![]()
事件發生在勞頓·奇爾斯中學,校內部署的AI威脅檢測平臺通過監控攝像頭掃描實時畫面,將學生攜帶的單簧管“識別”為潛在槍械,引發系統報警。 校方隨即啟動最高級別的“紅色代碼”鎖校程序,封鎖校園并通知執法部門到場,直至確認所謂“武器”其實只是樂器后,封鎖才得以解除。 校長隨后在發給家長的通知中強調,校園當時并不存在真實安全威脅,但仍提醒家長與子女溝通,不要在校園內做出“假裝持有武器”的危險舉動。
![]()
據介紹,該校所在的塞米諾爾郡學區使用的是總部位于賓夕法尼亞州的ZeroEyes公司提供的云端槍械檢測服務,合同金額達25萬美元,系統通過接入現有監控攝像頭,利用計算機視覺算法識別畫面中可能出現的槍支輪廓與特征。 官方資料稱,其AI模型經過上百種槍械圖像訓練,一旦系統“認為”發現武器,相關畫面會被傳送到ZeroEyes監控中心,由人工分析員進行復核,再決定是否向學校或執法機構發出警報。 然而在此次事件中,這一“人工二次確認”機制顯然未能阻止誤報演變為全校封鎖。
ZeroEyes的平臺目前已在全美43個州落地,并進入佛州多個人口稠密學區,企業將其定位為一種“預防性”安保手段,希望通過更快的威脅識別來縮短應對校園槍擊的反應時間。 但公司對外公開的性能數據極為有限,幾乎沒有關于識別準確率、誤報率以及成功阻止真實威脅案例的詳盡統計,這也讓外界難以評估其實際效果。 塞米諾爾郡安全與安保部門在回應媒體詢問時,僅籠統地將該系統描述為“有效威懾”,沒有給出任何經證實的威脅攔截數據,也未說明類似誤報發生的頻率。
![]()
家長和安全專家因此普遍呼吁提高透明度與問責機制,有家長直言,對系統是否“物有所值”心存疑慮,希望學區拿出具體統計證明這套昂貴方案的成效,并質問若曾成功發現真實威脅,為何從未向公眾公開。 獨立技術分析人士指出,目前幾乎看不到對ZeroEyes的第三方評估,公開報道的觀點也較為分化,一些公共安全領域專家擔心,這類系統可能更多提供的是“安全感的幻象”,而非經過驗證的風險降低。
在政策層面,ZeroEyes還通過注冊說客推動多州立法,在部分州獲得了類似“指定供貨商”的地位,使其成為校園安防采購中唯一被批準的AI槍械檢測供應商。 批評者認為,這類立法實際上排擠了競爭對手,削弱了公共采購的審查與辯論空間,也讓關于AI監控可靠性的公共討論被大大壓縮。 與此同時,安全和隱私研究者警告,一味擴張校園AI監控可能對學生造成的傷害大于潛在收益,包括頻繁誤報導致的高壓氛圍、學生對警力的過度暴露,以及對日常行為的持續監控。
![]()
美國公民自由聯盟的政策顧問曾指出,如果系統誤報頻率較高,不但會制造不必要的封鎖和恐慌,還可能讓學校和家長在一次次虛驚中產生“麻木”,反而削弱對真正危機的敏感度。 當前大量AI安防系統的訓練數據多來自相對可控的圖像集,而真實校園環境中出現的背包、樂器、運動裝備等物品形態復雜,極易在模型視覺上與槍械輪廓混淆,這次單簧管被當成槍便是一例。 在此次風波過后,塞米諾爾郡學區依舊將這套系統視作“必要防線”,但其可靠性與代價已經引發更廣泛的社會討論,外界也在觀望各學區未來是繼續依賴此類AI監控,還是轉向對供應商提出更嚴格的性能披露與監管要求。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.