영국 공공 부문은 이미 여러분이 생각하는 것보다 더 많이 AI를 사용하고 있습니다.

브리스톨대학교 경제법 교수이자 글로벌 법률 및 혁신 센터 공동 소장

Albert Sanchez-Graells는 영국 아카데미로부터 자금을 지원 받았습니다. 그는 아카데미의 2022년 Mid-Career Fellows(MCFSS22\220033, £127,125.58) 중 한 명입니다. 그러나 그의 연구와 견해는 영국학술원에 귀속된 것이 아닙니다.

University of Bristol은 The Conversation UK의 창립 파트너로서 자금을 제공합니다.

모든 파트너 보기

텍스트 생성 도구인 ChatGPT와 같은 인공 지능(AI) 제품의 급속한 증가로 인해 정치인, 기술 리더, 예술가 및 연구자들은 걱정을 하고 있습니다. 한편 지지자들은 AI가 의료, 교육, 지속 가능한 에너지와 같은 분야에서 삶을 개선할 수 있다고 주장합니다.

영국 정부는 AI를 일상 업무에 포함시키고 2021년에 이를 수행하기 위한 국가 전략을 수립하기를 열망하고 있습니다. 전략에 따르면 목표는 "앞에서 선도하고 세계에서 모범을 보이는 것"입니다. AI의 안전하고 윤리적인 배포".

AI는 특히 개인의 권리와 차별과 관련하여 위험이 없는 것은 아닙니다. 이는 정부도 인지하고 있는 위험이지만, 최근 정책백서에 따르면 정부는 AI 규제 강화를 꺼린다. 이것이 없이는 어떻게 "안전하고 윤리적인 배포"를 달성할 수 있는지 상상하기 어렵습니다.

다른 나라의 증거는 공공 부문에서 AI를 사용하는 것의 단점을 보여줍니다. 네덜란드의 많은 사람들은 복지 사기를 탐지하기 위해 기계 학습을 사용하는 것과 관련된 스캔들에 여전히 휘청거리고 있습니다. 알고리즘이 수천 명의 부모를 자녀 수당 사기 혐의로 거짓 고발한 것으로 밝혀졌습니다. 전국의 도시들은 사기 조사를 위해 저소득층 지역을 표적으로 삼기 위해 여전히 그러한 기술을 사용하고 있으며, 이는 사람들의 안녕에 파괴적인 결과를 초래하고 있는 것으로 알려졌습니다.

스페인에서 실시된 조사에서 사람들이 질병 수당 사기를 저지르고 있는지 여부를 판단하는 데 사용되는 소프트웨어에 결함이 있는 것으로 나타났습니다. 그리고 이탈리아에서는 잘못된 알고리즘으로 인해 꼭 필요한 자격을 갖춘 교사가 공석에서 제외되었습니다. CV는 다른 적합한 채용 공고에 연결하는 대신 한 가지 직업에만 고려한 후 CV를 완전히 거부했습니다.

AI에 대한 공공 부문의 의존도는 사이버 보안 위험이나 NHS 및 기타 필수 공공 서비스를 지원하는 주요 인프라의 취약성으로 이어질 수도 있습니다.

이러한 위험을 감안할 때 시민들이 정부가 AI 사용에 대해 투명하게 신뢰할 수 있도록 하는 것이 중요합니다. 그러나 정부는 일반적으로 이에 대한 세부 사항을 매우 느리게 공개하거나 공개하기를 꺼려합니다. 이는 의회 공공 생활 표준 위원회가 심하게 비판한 사항입니다.

정부의 데이터 윤리 및 혁신 센터는 사람들에게 영향을 미치는 중요한 결정에서 AI의 모든 사용을 홍보할 것을 ​​권장했습니다. 이후 정부는 조직이 AI 도구 사용 및 작동 방식에 대한 정보를 대중에게 공개하도록 장려하기 위해 세계 최초의 알고리즘 투명성 표준 중 하나를 개발했습니다. 이 작업의 일부에는 중앙 저장소에 정보를 기록하는 작업이 포함됩니다.

그러나 정부는 이를 자발적으로 사용하도록 했다. 지금까지 6개의 공공 부문 조직만이 AI 사용에 대한 세부 정보를 공개했습니다.

법률 자선 단체인 Public Law Project는 최근 영국 공공 부문에서 AI 사용이 공식 공개보다 훨씬 더 광범위하다는 것을 보여주는 데이터베이스를 출시했습니다. 정보 요청의 자유를 통해 추적 자동화 정부(TAG) 등록부는 지금까지 AI를 사용하여 공공 부문의 42개 사례를 추적했습니다.

대부분의 도구는 가짜 결혼이나 공공 지갑에 대한 사기 탐지를 포함하여 사기 탐지 및 이민 의사 결정과 관련되어 있습니다. 영국 지방 의회의 거의 절반도 AI를 사용하여 주택 혜택에 대한 접근을 우선시하고 있습니다.

교도관은 알고리즘을 사용하여 새로 유죄 판결을 받은 수감자를 위험 범주에 분류합니다. 몇몇 경찰은 AI를 사용하여 유사한 위험 점수를 할당하거나 AI 기반 얼굴 인식을 시험하고 있습니다.