인공지능을 둘러싼 가장 큰 윤리적 화두 중 하나는 '차별'일 것이다. 프라이버시 문제에 다소 둔감하면서 또한 인공지능 기술을 선도하고 있는 중국의 경우 국민들의 빅데이터를 분석하여 일종의 '사회적 점수'를 매긴 후 행정상의 이익/불이익을 주고 있고, 가까이는 우리나라에서도 최근 'AI 면접'을 도입한 기업들이 다수 있어 인공지능에 의한 일종의 통계적 차별이 국민의 평등권을 제한하는 결과를 빚는 데에 대하여 많은 우려가 존재한다. 그렇다면 인공지능에 의한 차별은 어떻게 규제되고 있을까.
먼저 인공지능 차별을 직접적으로 규제하는 법령은 존재하지 않는다. 단지 각 분야에서 차별을 금지하는 기 모바일야마토 존 법령들(고용의 경우 남녀평등고용법, 고령자고용법 등)이 인공지능 기반 차별에도 그대로 적용되며, 특별법이 포섭하지 못하는 문제의 경우 민법상 불법행위로써 손해배상을 구할 수 있을 뿐이다. 여기에 더하여 최근 시행된 인공지능기본법상의 '고영향 인공지능'에 대한 설명의무 등이 적용되어 예방적 역할을 한다.
해외 주요국에서도 인공지능 차별에 바다이야기2 대한 규제는 우리나라와 궤를 같이하고 있다. 즉, 인공지능에 설명의무를 부과함으로써 자의적 차별을 예방하고, 실제 문제가 발생한 경우 불법행위법에 따라 규제하는 것이다. EU AI법에는 우리나라의 인공지능기본법과 동일한 취지의 고위험 인공지능 관련 설명의무 등이 규정되어 있다. 그리고 미국의 각 주에서도 채용 및 인사 평가에서 AI 도구를 사용할 때 알고 체리마스터pc용다운로드 리즘에 대하여 충분한 예방 내지 설명을 위해 노력할 의무를 규정한다. 일례로 미국 일리노이주는 2019년부터 'AI 영상 면접법'을 시행하여 고용주에게 정보공개, 사전동의 등 의무를 부과한다. 또한 미국 뉴욕시는 지난 2023년부터 'AI 채용도구 감사법'을 시행하여 인공지능 기반 채용 프로그램이 정기적인 편향성 감사를 받도록 한다.
인공 릴게임온라인 지능 기반 차별에 대한 분쟁은 아직 초기 단계이나, 주목할 만한 사례로는 온라인 튜터링 업체인 iTutorGroup이 채용 소프트웨어를 설정할 때 여성은 55세 이상, 남성은 60세 이상의 지원자를 자동으로 탈락하도록 프로그래밍함으로써 고용 연령 차별법 위반이 문제된 사례가 있다. 이에 대해 2022년 5월 미국 고용평등기회위원회(EEOC)가 iTutorG 릴게임오션파라다이스 roup에 소송을 제기했고, iTutorGroup은 차별 사실을 인정하며 탈락한 지원자들에게 36만 5000달러(약 4.8억 원)를 배상하기로 합의하였다. 해당 사건을 계기로 미국에서는 현재 인공지능 기반 고용차별에 대한 소송이 다수 제기되고 있다.
생각건대 인공지능에 의한 차별은 민사법의 영역에서 연구되어 온 첨단불법행위에서의 입증책임의 전환 법리를 원용하기에 매우 적절한 사례이다. 피해자가 차별의 발생 사실과 해당 차별이 인공지능 시스템의 작동 영역에서 발생하였음을 일단 입증하면, 다른 원인이 개입되었다는 반증은 인공지능 시스템을 관리하는 자가 하도록 하는 것이다. 오늘날 범용 인공지능으로 발전한 언어모델의 근간이 정보 집중도를 나타내는 '어텐션' 커니즘이기에, 해당 부분을 분석함으로써 추론과정 내부의 인과관계에 대한 설명이 어느 정도 가능하여 시스템 관리자에게 지나치게 가혹하게 되지도 않는다. 이는 고영향 인공지능에 대한 설명의무를 사후적 규제의 면에서 도입하는 것으로도 이해될 수 있다.
윤상원 공익법무관(대검찰청 국제협력담당관실)