2019年8月9日,英国查塔姆研究所网站发布题为《Artificial Intelligence Prediction and Counterterrorism》的报告,作者是英国陆军军官、该所前访问研究员凯瑟琳·麦肯德里克。报告要点如下:
在反恐中使用人工智能本身并不是错误的,本文提出了将合法使用人工智能作为自由民主国家反恐预测方法的一部分的必要条件。
•在反恐中使用预测性人工智能通常被认为对人权产生了有害影响,产生了“犯罪前”惩罚和监控幽灵。然而,对新能力使用的良好监管可以提高各国保护公民生命权的能力,同时改善对旨在保护其他人权的原则的遵守,例如透明度、罚当其罪和免受不公平歧视的自由。同样的监管框架也有助于防止更广泛地滥用相关技术。
•大多数国家都专注于防止恐怖袭击,而不是被动对其做出反应。因此,预测已经成为有效反恐的核心。人工智能允许分析体量更大的数据,并且可以感知那些数据中的模式,否则由于体量和维度的原因,这些模式将超出人类的解释能力。这样做的影响是,可以通过分析整个人口的广泛活动来识别以前未知的威胁的方法来补充从已知嫌疑人外推的传统调查方法。
•人工智能的发展扩大了监控的能力,而不受资源的限制。例如,面部识别技术可以在不久的将来在公共场所使用CCTV(闭路监控电视系统)实现监视的完全自动化。
•目前使用预测性人工智能的方式从人权和实践角度提出了许多相互关联的问题。如果加以限制和规定,可能会削弱应用人工智能方法的效用,同时不一定能够在适当的程度上保护人权。
•原则上,与自动分析某些类型的公共数据相关的隐私权侵犯并没有错,但必须在坚实的法律和政策框架内进行分析,根据其结果对干预措施施加明显的限制。
•将来,更广泛地获取侵入性更小的公共数据、直接监管这些数据的使用方式(包括监督私营部门参与者的活动)以及实施技术和监管保障措施,可以改善运作绩效以及合规性与人权立法。重要的是,任何此类措施的实施方式都应对言论自由、结社自由和集会自由等其他权利产生显著影响。