英國英格蘭和威爾士地區部分警隊被叫停用人工智慧撰寫法庭陳述及處理部分刑事司法工作。Police.AI 中心負責人 Alex Murray 表示，已干預部分未經充分評估就部署商用 AI 工具的警隊，要求暫停使用。他強調，刑事司法系統使用的技術準確度必須達到「排除合理懷疑」的標準。
此前，西米德蘭茲警隊曾使用微軟 Copilot 生成包含虛假信息的材料，引發對 AI 幻覺的擔憂。Murray 指出，AI 在分析監控錄像、處理數字證據等方面有應用潛力，但必須先完成檢查和保障措施，再考慮廣泛採用。
Financial Times