校园人工智能（AI）监控的隐忧日益加剧，美国巴尔的摩（Baltimore）一个AI枪支侦测系统，将一名16岁学生携带的多力多滋（Doritos）脆片误判为枪械。武装警察包围，事件引发轩然大波。
事发于10月20日，就读肯伍德高中（Kenwood High School）的艾伦（Taki Allen）当时刚结束足球训练，正与朋友在校外逗留，多辆警车却突然驶至。
巴尔的摩肯伍德高中。 Wiki
艾伦向WBAL-TV 11 新闻台忆述：“大概有8辆警车朝我们开过来。他们拿着枪走向我，大喊‘趴到地上’，我当时心想，‘发生了什么事？’”他描述当时的恐惧：“他们让我跪下，双手反绑在背后并戴上手铐。然后他们搜查了我，但什么也没找到。”
警察在持枪威胁下将他制伏，事后向他展示了触发警报的人工智能撷取影像，影像中他口袋里皱巴巴的多力多滋包装袋，被误认成一把枪。艾伦说：“我当时主要在想，我会死吗？他们会杀了我吗？他们给我看了照片，说那看起来像一把枪，我说，‘不，那是脆粟米片。’”
涉事枪支侦测模型由Omnilert公司提供。 官网截图
AI公司：系统的“预期中失误”
这起事件背后的AI系统来自Omnilert公司的枪支侦测技术，巴尔的摩县公立学校去年引入该技术。它会扫描现有的监视器画面，并在侦测到其认为是武器的物体时，即时向警方发出警报。
Omnilert公司事后承认这是一次误报，但声称系统是“按预期运作”，并表示其目的是“透过快速的人工验证来优先保障安全和提高警觉性”。
学生心理创伤：学校不安全
肯伍德高中校长在写给家长的信中写道：“我们理解这次事件对被搜查的学生以及目睹事件的其他学生造成了多大的困扰。我们的辅导员将为相关学生提供直接支持。”
涉事枪支侦测模型由Omnilert公司提供。 官网截图
然而，艾伦表示，校方从未有人亲自联系过他。他说：“他们没有道歉，只是告诉我这是标准程序。我至少期望有人能跟我谈谈这件事。”他说他现在去学校再也感觉不到安全，“如果我再吃一包薯片或喝点甚么，我感觉他们会再次出现。”
此案重新点燃了关于AI监控工具可靠性及其在现实世界中后果的辩论，尤其是在学校环境中。这起事件发生之际，正有越来越多的机构开始实施人工智能技术。本月稍早，美国陆军高级官员之一的威廉・“汉克”・泰勒（William ‘Hank’ Taylor）少将承认使用ChatGPT来制定关键的军事决策。与此同时，英国针对成人内容推出了严格的年龄验证措施，要求用户通过脸部扫描以证明自己年满18岁。这导致一些成年人无法访问内容，例如英国纹身最多的男子就表示，年龄验证系统因将他的纹身解读为面具而要求他“移除脸部”。