콜로라도 경찰, AI 기술 도입·사용중

콜로라도 주내 경찰을 비롯한 다수의 법집행기관에 인공지능(AI)이 이미 도입돼 사용되고 있으나 사생활 침해 등의 문제는 여전히 해결과제라고 덴버 포스트가 14일 보도했다.

경찰 관계자들은 이 기술이 경찰관들이 컴퓨터 앞에서 보내는 시간을 줄이고 지역사회 속으로 더 많이 나갈 수 있게 돕고 있다고 말한다. 그러나 AI가 실제로 어떻게 활용되고 있으며 그 영향이 무엇인지에 대해서는 명확하지 않은 부분이 적지 않다. 전문가들은 사생활(privacy) 침해와 편향(bias) 문제 등 여러 ‘경고등’이 함께 켜져 있다고 지적한다.
대중이 흔히 떠올리는 AI(정치인이나 유명인의 딥페이크 영상, 혹은 존 레넌 사망 43년만에 비틀스의 신곡이 그의 목소리로 공개되는 사례)는 콜로라도 거리에서 순찰하는 경찰관들이 사용하는 종류의 AI가 아니다. 그렇다고 해서 그 도구가 덜 강력한 것은 아니다. 경찰관들은 AI를 활용해 바디캠 녹화 내용을 공식 보고서로 변환하고, 얼굴을 스캔하며, 차량 번호판을 추적한다.

경찰용 AI 플랫폼 ‘트룰리오(Truleo)’의 최고경영자(CEO) 앤서니 타소니(Anthony Tassone)는 “AI는 엄청난 변화”라고 말했다. 트룰리오는 보고서 작성 보조, 경찰 정책 및 법 관련 질의 응답, 목격자 진술 녹취록 작성 등을 돕는 AI 비서 역할을 한다. 트룰리오는 콜로라도 주내 20곳이 넘는 경찰기관과 계약하고 있지만, 타소니는 고객 기밀을 이유로 구체적인 기관명 공개는 거부했다.

타소니는 AI가 경찰의 효율성을 높이고 지역사회 서비스를 강화할 수 있다고 믿고 있고 트룰리오는 개인 데이터를 수집하지 않지만, 일부 AI 플랫폼이 개인 정보를 수집·처리하는 방식에 대한 책임성 부족도 우려한다는 입장이다. 

AI의 경찰 활용은 미국시민자유연맹(American Civil Liberties Union/ACLU) 등 시민단체가 특히 우려하는 부분이다. 이들은 해당 기술이 편향을 확대하고 형사사법 시스템에 허위 정보를 유입할 가능성이 있다고 지적한다.

ACLU 콜로라도지부의 공공정책 디렉터 아나야 로빈슨(Anaya Robinson)은 “법집행기관은 이미 오래전부터 이런 기술들을 사용해왔고 이제는 다시 되돌리기 어려운 상황이다. 하지만 그럼에도 우리는 의미있는 규제를 만들고 지역사회가 AI 사용 여부와 범위, 경계를 정할 수 있도록 해야 한다”고 밝혔다.

덴버 포스트는 콜로라도 주내 100개가 넘는 경찰서·쉐리프국에 연락해, 액슨(Axon)이 만든 ‘드래프트 원(Draft One)’이나 트룰리오 같은 AI 프로그램을 사용하는지 확인했다. 답변한 59개 기관 중 24곳이 AI 프로그램을 사용한다고 밝혔다. 이 중 가장 일반적인 것은 바디캠 영상을 경찰 보고서로 변환하는 드래프트 원이다.

덴버 등 대도시 지역에서는 플록(Flock)사의 AI 기반 차량 번호판 인식 장비(AI-powered license plate readers)도 사용한다. 이 시스템이 ‘대규모 감시망’을 구축해 악용될 수 있다는 우려에도 불구하고 말이다.

오로라 시의회는 지난해 10월, 오로라 경찰국의 AI 안면 인식 프로그램 사용을 승인했다. 시 웹사이트에 게시된 요약에 따르면, 이 기술은 “소프트웨어내 생체 알고리즘을 활용해 인간 얼굴의 특정 특징을 분석·비교”하는 방식이다. 시 관계자들은 이 기술이 범죄 예방 및 신원 미확인자 확인에 도움이 된다고 설명한다.

하지만 연방민권위원회(U.S. Commission on Civil Rights) 등 비평가들은 이 기술이 흑인, 동아시아계, 여성, 노년층 대상 스캔에서 오인식 비율이 더 높다고 지적한다. 민권위원회는 2024년 보고서에서, “안면인식 기술을 통한 대규모 감시는 허용 가능한 정보 수집과 비허용 정보 수집 사이의 법적 경계를 두고 많은 문제를 야기한다”고 지적했다.

콜로라도에서 가장 규모가 큰 덴버 경찰국과 두 번째인 오로라 경찰국은 AI 활용 방식에 대한 인터뷰 요청을 모두 거절했다. 덴버 경찰국은 성명을 통해, “현재 AI 장비를 사용하고 있지 않으며 미래 도입시 신뢰성과 비용·효율 측면에서 이점을 갖춰야 한다”면서 “현재 대형 언어 모델(Large Language Model/LLM) 기반 AI 기술을 탐색 중이며 보고서 작성 속도 향상 가능성을 검토하고 있다”고만 밝혔다.

LLM은 사람처럼 텍스트를 이해·생성하도록 설계된 AI로, 책·웹사이트·기사 등을 기반으로 학습된다고 스탠퍼드대는 설명한다. 덴버 경찰은 여러 소프트웨어 업체와 접촉했지만 아직 결정된 사항은 없으며 향후 덴버시 기술서비스팀을 통한 조달 절차를 거칠 예정이다.

오로라 경찰도 보고서 작성 및 바디캠 활용을 위한 AI 도입을 검토하고 있으나 아직 계약은 체결하지 않았다고 대변인 조 모일런(Joe Moylan)은 밝혔다. 안면 인식 기술 관련 인터뷰 요청에는 응하지 않았다. 오로라 경찰은 과거 트룰리오를 사용해 바디캠 영상을 분석했는데, 이를 통해 경찰관 욕설·모욕·협박·부적절 언어 사용이 57% 감소했다. 그러나 오로라시는 1년 계약을 갱신하지 않고 2024년 3월로 종료시켰다.

볼더 경찰서는 2024년 AI 보고서 작성 시범사업을 시작했으며 큰 성과를 거두자 2025년 전면 도입을 승인했다고 스티븐 레드펀(Stephen Redfearn) 서장은 전했다. 볼더 경찰은 드래프트 원을 사용한다. 이 프로그램은 경찰관과 시민의 대화 녹음을 기반으로 보고서를 자동 생성해, 경찰관이 수정·확인 후 제출할 수 있게 한다. 

AI 보고서를 검토한 경찰관은 ‘정확한 사실 기록’임을 확인하는 항목에 체크하고 보고서에는 AI 사용 사실이 기재된다. 매달 한 차례, 감독자가 일부 바디캠 영상과 AI 보고서를 비교해 정확성을 점검한다. 콜로라도는 미국에서도 손꼽히는 AI 규제를 마련했다고 강조하지만, ACLU의 로빈슨은 법집행 분야에 대한 포괄적 규정은 여전히 부족하다고 꼬집는다. 
<이은혜 기자>