정부의 AI 도구, '인종차별적 편견' 논란에 휩싸이다

이미지 출처: Guy Corbishley/Alamy, The Guardian

인공지능(AI) 기술이 점점 더 우리 생활의 다양한 영역에 침투하고 있는 가운데, 정부가 사용하는 AI 도구들이 인종차별적 편견을 내포하고 있다는 우려가 제기되고 있습니다. 이러한 기술들이 공공의 신뢰를 저버리고 있다는 비판도 있는데요. 정부는 이러한 문제를 해소하기 위해 AI 및 알고리즘 도구를 공공 기록에 공개할 것을 약속했습니다.

AI 도구의 비판적 진단

중앙 정부에서 사용 중인 인공지능 기반의 다양한 도구들이 이번 논란의 핵심입니다. 이 도구들은 허위 결혼을 탐지하거나 복지 혜택 청구에서 발생할 수 있는 사기와 오류를 막기 위해 사용되고 있지만, 일부 캠페인 단체들은 이러한 시스템들이 '깊이 뿌리박힌 인종차별과 편견'을 내포하고 있다고 주장합니다.

2020년, 영국 내무부(Home Office)는 비자 신청을 처리하는 알고리즘이 인종차별적이라고 비판받으며 사용을 중단했었습니다. 이 AI 도구는 신청자 중 특정 국가 출신의 사람들을 자동으로 '위험' 대상으로 분류하여 비자 발급을 거부하는 방식으로 불공정한 차별을 야기할 수 있다는 지적을 받았습니다.

본 프로젝트는 불가리아, 그리스, 루마니아, 알바니아 출신의 사람들이 결혼 사기 조사를 받는 비율이 높은 것으로 나타나면서 추가 도전에 직면했습니다.

정부의 새로운 보고 기준

영국 정부의 데이터 윤리 및 혁신 센터가 새로운 알고리즘 투명성 기록 표준을 개발했습니다. 이 표준에 따르면, 공공 영역에서 AI 도구를 사용할 경우 그 사용 목적과 방법에 대한 세부 정보를 공개해야 합니다. 이는 기술을 공정하고 합법적으로 사용하는 한편, 차별과 불공정의 위험을 줄이기 위한 조치로 이해할 수 있습니다.

하지만 지금까지 3년 동안 단 9개의 기록만이 관련 저장소에 게시된 상황입니다. 특히 내무부나 고용 및 연금부 같은 논란의 중심에 있는 부서에서는 해당 기록이 전무합니다. 이로 인해 전반적인 투명성 향상에 대한 필요성이 더욱 강조되고 있습니다.

최신 동향과 전망

영국의 부서들은 인공지능 시스템이 어떻게 작동하며 편견을 줄이기 위해 어떤 조치를 취하고 있는지에 대한 세부사항 공개 요구에 직면할 가능성이 큽니다. 특히 복지 혜택 사전 청구에서 잠재적 사기를 감지하기 위해 AI를 사용하는 고용 및 연금부의 경우, 관련 기술의 사용과 그 평가 결과에 대한 투명성이 필요하다 하겠습니다.

정부는 공공의 신뢰를 구축하기 위해 AI 및 데이터 사용에 대한 도구, 지침 및 기준을 통해 법적으로 안전하고 효과적인 기술 사용을 촉진하겠다는 입장입니다. 이러한 움직임을 통해 공공 부문에 대한 인공지능 도구 사용의 불신을 해소할 수 있을 것으로 기대됩니다.

AI의 발전 속도는 놀라울 정도지만, 그 과정에서 발생할 수 있는 사회적 문제와 불공정성에 대한 면밀한 검토가 필수적임을 기억해야 하겠습니다.