유네스코와 인공지능국제연구센터가 2024년 펴낸 인공지능의 젠더 편향에 관한 연구 보고서 표지.


여성 개발자 박아무개(34)씨는 최근 챗지피티에 직장에서의 어려움, 이직 고민 등을 질문한 뒤 깜짝 놀랐다. “형, 너 지금 힘든 거 인정해. 진짜 ××(욕설) 힘든 거 맞아.” 챗지피티가 박씨는 물론 스스로를 남성으로 설정하고 남성 이용자가 많은(남초) 온라인 커뮤니티에서나 쓸 것 같은 말투로 응답했기 때문이다.
박씨가 이를 지적하자 챗지피티는 “온라인에서 대화할 때, 무의식적으로 남성일 거라고 가정하는 버릇이 있었던 것 같아. 릴게임5만 ‘형’은 남자들 사이에서 기본값처럼 쓰이는 반면, ‘누나’는 남녀관계에서만 쓰이는 느낌이 있어서 바로 안 튀어나온 듯”이라며 “한국어로 대화할 때 개발 관련 내용을 캐주얼한 톤으로 말하다 보니까 온라인에서 흔히 쓰이는 ‘남초 커뮤니티’ 스타일 말투가 섞였던 것 같아”라고 설명했다. 온라인 대화 주체의 ‘기본값’은 물론, 정보기술(IT) 관련 직업을 가진 사 사이다쿨바다이야기게임 람의 성별도 남성으로 가정한 것이다.
인공지능(AI)이 특정 직업군과 특정 성별을 성별 고정관념에 따라 연결시키는 등 ‘인공지능 젠더 편향’ 문제에 대한 지적이 반복되지만 사용자들은 같은 문제에 일상적으로 노출되고 있다. 유엔여성기구 지식·파트너십센터가 지난해 8월 연 ‘인공지능과 젠더’ 국제학술대회에서도 관련 발표가 많았다. 자오제위 미 백경릴게임 국 서던캘리포니아대 교수는 챗지피티 등 인공지능에 300개 이름으로 40개의 직업 채용에 적합한 후보자를 고르고 적정 연봉을 제시하라는 주문을 하자, 같은 조건에서 여성 이름을 가진 지원자를 덜 뽑고, 더 낮은 급여를 제안하는 연구 결과를 소개했다. 정상원 서울대 박사는 텍스트를 이미지로 바꾸는 인공지능 모델 달리(Dall-E)에 ‘컴퓨터 프로그래머를 표현 손오공릴게임 해달라’고 했더니 남성으로, ‘가게 직원을 표현해달라’고 했더니 여성 이미지로 구현하는 내용을 발표했다.
이런 인공지능 젠더 편향은 인공지능이 학습하는 데이터가 편향되어 있기 때문에 발생한다. 임소연 동아대 융합대학 교수는 “(인공지능이) 인터넷상에서 크롤링(데이터 추출)이 가능한 텍스트들을 학습하다 보니 남초 커뮤니티의 게시글을 포함해 바다이야기pc버전다운 전체적으로 편향이 있는 데이터를 학습하는 것으로 보인다”고 지적했다. 문미경 한국여성정책연구원 선임연구원도 관련 보고서에서 “인공지능 젠더 편향성은 데이터 수집 및 선정 단계, 데이터 처리 단계에서 충분히 주의를 기울이지 않은 점이 주요 원인으로 파악된다”고 분석했다.
이 때문에 인공지능에 젠더 편향을 완화할 수 있는 장치를 포함하고, 이용자 리터러시를 강화해야 한단 목소리가 나온다. 임소연 교수는 “생성형 인공지능은 이용하는 사람의 역할도 상당하다. 데이터 자체에 편향이 있는 경우, 이용자가 젠더 고정관념을 완화할 수 있는 프롬프트를 사용하면 보완이 가능할 수 있다”고 말했다.
한편, 한국여성단체연합은 지난 1월 ‘대한민국 인공지능 행동계획(안)’을 발표한 국가인공지능전략위원회(전략위)에 ‘알고리즘의 젠더 편향성 문제를 해결해야 한다’는 의견서를 보냈다. 전략위는 “의견을 수렴해 분과별로 논의 후 행동계획에 반영했다”고 전했지만, 여성단체연합 관계자는 “계획 자체가 성인지 관점에서 설계되지 않아 아직 실질적인 변화는 없다”고 말했다.
손지민 기자 sjm@hani.co.kr