快速导航
8秒生成犯罪现场报告美警使用AI工具写文书竟比人脑回忆还准
2024-09-07

  【新智元导读】美国警察开始使用人工智能工具Draft One辅助文书工作,犯罪报告秒生成,比人脑回忆更准确。

  AI可以用来协助警务工作了,最近,由GPT-4支持的人工智能开始用于撰写犯罪报告和归档文书。

  今年4月,Axon推出了一款名为Draft One的新工具,Draft One可以转录执法记录仪中的音频,并自动转变成一份警务报告。

  Draft One使用和ChatGPT相同的人工智能生成模型,云服务则由微软提供。

  Draft One的推出很快受到了警务人员的欢迎,因为琐碎的数据收集、现场回忆和文案撰写非常耗费时间和精力,现在有了「AI警官助理」来帮忙。

  第一批测试者科罗拉多州柯林斯堡警察局表示,携带Draft One进行警务工作,撰写报告的时间减少了82%。

  Axon首席执行官Rick Smith预估,如果一名警官每天要花一半时间撰写文案报告,使用Draft One可以至少减少一半的工作量,那么,警官就有机会腾出25%的时间来投入繁忙的警务工作。

  听上去Draft One可以直接代为完成繁琐的文档规整工作,那么,它在具体警务工作的完成上到底如何?

  俄克拉荷马城警察局,是少数几个开始尝试使用AI聊天机器人来撰写案件报告初稿的试点警察局之一。

  警官Matt Gilmore和他的侦查犬Gunner搜寻了一群嫌疑人近一个小时,随身摄像机和Draft One捕捉到了警官和嫌疑人所说的每一个字。

  通常情况下,俄克拉荷马城的警官出勤后,会拿起笔记本电脑,花30到45分钟写一份搜查报告,但这次,他让人工智能工具写了初稿。

  Draft One从Gilmore的麦克风上提取了所有声音和无线秒内生成了一份报告。

  「这份报告甚至比我写得还好,而且内容100%准确。」Gilmore说,「它甚至记录了一个他都不记得的细节,比如另一名警官提到了,嫌疑人逃离时汽车的颜色。」

  在一次处理交通事故的案例中,警官将交通拦截的视频加载到系统中,然后按下按钮,程序就会根据车载摄像头的音频,用对话式语言生成一份叙述式报告,其中包括日期和时间,就像警官根据笔记写出的报告一样。

  整个过程行云流水,只用了几秒钟的时间就完成了。并且经过警员审核,也没有需要修改的部分。

  尝试过这种技术的警官,对这项节省时间并且完成出色的AI工具都非常感兴趣。

  而一些检察官、警察监管机构和法律学者则担心,由AI撰写的案件报告作为刑事司法系统中的一环,或者说作为重要证据时,谁来保证报告的准确性?因为大语言模型会产生幻觉或编造事实,甚至有种族偏见。

  例如,一位起诉刑事案件的地方检察官希望报告都是由警官负责撰写的,而不仅仅是一个人工智能聊天机器人,因为他们必须对所目睹情况的真实性负责。

  如果一名官员在证人席上说,「好吧,人工智能写了这个,不是我写的我不知道」,就显得极其荒谬并且蔑视法律。

  人工智能技术对警务机构来说并不陌生,他们已经采用算法工具来读取车牌、识别嫌疑人的面部、检测枪声并预测犯罪可能发生的地点。

  其中许多应用程序都涉及隐私和公民权利问题,立法机关就通过设立法律法规来保障AI工具在合理范围内运行。

  由于Draft One的使用领域非常敏感,因此对新技术的引入也有许多人抱有疑虑。

  LLM固有的偏见问题如何解决?如何确保工具的正确使用?技术的使用范畴和使用门槛谁来限制?

  俄克拉荷马城社区活动家Aurelius Francisco在谈及这一项新技术时表示,AI技术中可能存在种族偏见,而这仅仅是他对这一新工具「深感不安」的其中一部分。

  法律教授Andrew Ferguson担心,自动化的简易步骤和AI技术的引入会导致警官在写作时不够谨慎。

  人工智能聊天机器人背后的大语言模型很容易编造信息,这种被称为「幻觉」的问题可能会在警方报告中添加难以察觉的虚假内容。

  最简单粗暴的方式就是直接关闭工具的自我创造力,只做一个无情的记录机器,这样就能大大减少幻觉和错误的数量。

  Axon进行了一项测试,通过获取随身摄像头的真实记录之后,在每种情况下仅改变了嫌疑人的种族,例如将「白人」一词替换为「黑人」或「拉丁裔」,然后让模型撰写报告。

  Noah Spitzer-Williams表示,在测试中生成的警方报告显示,数百个样本中「不同种族之间没有统计学上的显著差异」。

  对于一些已经尝试过新技术的警官来说,Draft One已经改变了他们处理案件的方式。

  比如,警官会像讲故事一样对着机器讲述发生了什么,让摄像头能更好地捕捉到他们想在案件报告中着重添加的内容。

  随着这项技术的普及,俄克拉荷马城警察局长Jason Bussert表示,由于这些内容经过口头转述,他预计警员在描述眼前的情况时会 「越来越口若悬河」。

  Axon曾建议警方,不要使用人工智能来为类似于枪击事件这样严重的刑事案件撰写报告,因为刑事案件非常复杂且风险非常高。

  早期用户仅将Draft One用于轻罪的报告撰写,后来越来越多的客户正在用它撰写更重大的案件,包括暴力案件等等。

  然而,Axon只负责提供AI工具,无法控制各个警察部门如何使用这些工具。

  例如,印第安纳州拉斐特市的警察局长Scott Galloway告诉媒体,所有警官都可以在任何类型的案件中使用Draft One,而且自今年早些时候试点开始以来,它就受到了警官的欢迎。

  科罗拉多州柯林斯堡的警官Robert Younger表示,警官们可以自由地在任何类型的报告中使用它,但他们发现它在市中心酒吧区的巡逻中效果不佳,因为「噪音太大」。

  除了使用人工智能分析和总结音频记录之外,Axon还尝试使用多模态视觉系统来总结视频片段中看到的内容,但该技术尚未成熟。

  由于警务工作不容一点纰漏,在引入视觉识别之前,必须对新技术进行多方面的测试。

  Axon不愿透露有多少警察部门正在使用这项技术,Axon也并不是唯一的供应商,Policereports.ai和Truleo等初创公司也推出了类似的产品。

  另外,值得一提的是,除了新技术Draft One,Axon还向美国警察提供泰瑟枪——一种电击枪。

  因此,Axon和警务部门有着深厚的合作关系,成为了警务部门商务合作和购买AI工具的首选。

  本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。江南体育平台