
"我当时又尴尬又羞愤,感到既屈辱又无助。"46岁的喜剧活动策划人马特·阿诺德(Matt Arnold)如此描述这段亲身经历。
事发地点位于伦敦东南部的东杜尔维奇(East Dulwich)。当时,阿诺德正在为隔壁达尔维奇哈姆雷特足球俱乐部举办的脱口秀活动采购物资。他扫描了商品并刷了会员卡后,两名店长走上前来,以"此前发生过事故"为由拒绝为其结账,并要求他离开门店。
"他们直接告诉我要把我送出去,"阿诺德说,"我当时坚持自己走,不想被人押着出去,想保留一点尊严。在这一点上,他们倒是妥协了。"
走出门店时,他注意到头顶的监控屏幕上出现了警报提示,一个红圈正圈着他的脸。他请求店员将购物车保留,以便他的朋友随后进来结账取货——毕竟脱口秀演出就在隔壁,马上就要开始了。
"他们对此似乎有些困惑,但还是答应了。大约五分钟后,我的同事戴夫进去结了账,把东西都取走了。整个过程中,店员们没有任何停下来思考的迹象,没有人意识到一个真正的惯犯根本不会这样行事,只是在盲目地执行机器的指令。"
"任何人都可能遭受这种错误指控,而这迟早会落到某个脆弱的群体身上,比如有焦虑症等心理健康问题的人,这几乎是必然的,"他说,"我也很担心,如果这种事发生在年轻人或那些不善于或无力为自己发声的人身上,会对他们的自信心造成多大的打击。"
他还对AI在社会中的蔓延趋势表示担忧:"我不喜欢监控文化,但我理解它在某些情况下的必要性。真正没有必要的,是让机器做出决定,然后强迫人类不加思考地去执行。"
该公司表示,暂停某一门店的使用是一项"预防性措施",旨在在员工接受补充培训期间防止出现进一步的误报。
Q&A
Q2:马特·阿诺德被误认为惯犯后,塞恩斯伯里做了哪些处理?