AI의 성 편협성에 대한 우려
상태바
AI의 성 편협성에 대한 우려
  • 윤광제 기자
  • 승인 2019.09.10 18:59
  • 댓글 0
이 기사를 공유합니다

(AI타임스=윤광제 기자) 인공지능(AI) 시스템은 바둑과 같은 게임에서 세계 챔피언을 누르고, 인간 방사선 전문의보다 의료 스캔에서 종양을 더 잘 식별하며, 전력 소모가 많은 데이터 센터의 효율성을 높이는 등 매일 지능화되고 있다. 일부 경제학자들은 AI의 변화 가능성을 증기 엔진, 전기 또는 트랜지스터와 같은 다른 "일반 목적 기술"과 비교하고 있다.

하지만 현재의 AI 시스템은 완벽하지 않다. 소셜 미디어에 대한 잘못된 정보, YouTube에 게시된 폭력적인 콘텐츠 또는 Microsoft chatbot 인 Tay의 유명한 사례인 몇 시간 동안 인종 차별 및 성 차별 진술을 하도록 조작된 사례들을 보았듯이 AI는 조작 될 수 있다.

인간은 정말로 이렇게 편견에 취약한 기술을 미래 경제의 기반으로 삼을 수 있을 것 인가?

◆ 리스크 최소화
이러한 AI 위험을 최소화하는 방법 중 한가지는 개발에 참여하는 팀의 다양성을 높이는 것이다.

집단적 의사결정과 창의성에 대한 연구가 시사하듯이, 인지적으로 더 다양한 집단은 더 나은 결정을 내리는 경향이 있다. 안타깝게도 이것은 현재 AI 시스템을 개발하고 있는 상황과 전혀 다른 것인데 이는 성별 다양성이 부족한 것의 한 가지 중요한 측면이다.

올해 초 AI Now Institute가 발간한 리뷰를 보면 유명 AI 컨퍼런스에 지원하는 연구자 중 여성이 20% 미만이며, 스탠퍼드대와 버클리 캘리포니아 대학에서 AI를 연구하는 학부생의 4분의 1만 여성인 것으로 나타났다.

저자들은 성별 다양성의 결여로 인해 여성 이름을 가진 취업 지원자를 차별하는 것으로 나타난 아마존 채용 제도와 같이 여성에게만 고유한 영향을 미치는 AI 장애가 발생했다고 주장했다.

우리의 최근 보고서인 “AI 연구의 성 다양성”에는 AI 커뮤니티에서 널리 사용되는 사전 인쇄 웹사이트인 arXiv 안의 1.5m 논문들의 “big data’ 분석이 포함돼 있다.

우리는 어떤 AI 기법을 적용하는지 결정하기 위해 논문 초록(abstracts)의 텍스트를 분석했고 저자들의 이름을 통해 저자들의 성별을 추론했으며 AI의 성별 다양성 수준과 시간에 따른 진화를 연구했다.

또 다른 연구 분야와 국가의 상황, 여성 공동 저자와 전 남성 논문과의 논문 간 언어 차이 등도 비교했다.

이러한 분석은 AI 연구에 성별의 다양성 위기가 있다는 생각을 확인시켜 줬다. arXiv 내 AI 저자의 13.8%만이 여성이고 상대적 측면에서 볼 때 공동집필에서 적어도 한명 이상 여성이 참여한 AI 논문 비율은 1990년대 이후 개선되지 않고 있다.

국가별 연구 분야에는 상당한 차이가 있다. 네덜란드, 노르웨이, 덴마크의 AI 연구에서는 여성의 대표성이 더 강했고 일본과 싱가포르에서는 더 낮은 대표성을 발견했다.  또한 물리, 교육, 생물학, 사회적 측면에서 일하는 여성들이 컴퓨터 과학이나 수학에 종사하는 여성들에 비해 AI에 관한 작업을 출판할 가능성이 더 높다는 것도 발견했다.

AI 연구인력의 성별 다양성을 측정하는 것 외에 여성의 참여 여부와 참여하지 않은 연구논문 간의 의미적 차이도 탐구했다. 그외 성별 다양성이 더 많은 연구팀이 'AI 연구에서 고려되는 다양한 이슈와 주제를 증가시키는 경향이 있다'는 가설을 실험해 잠재적으로 그들의 결과물을 더 포괄적으로 만들 수 있었다.

◆ 의미론적 서명
이를 위해 “단어 임베딩”이라는 기계학습 기법을 이용해 각 논문의 '의미적 서명”을 측정했고 여성 저자가 없는 논문과 여성 저자가 적어도 한 명 이상 있는 논문의 서명을 비교했다.

영국 컴퓨터 분야의 기계 학습과 사회적 측면에 초점을 맞춘 이 분석은 그룹 간에 상당한 차이를 보였다.

적어도 한 명의 여성 공동 저자가 있는 논문은 '공정성', '인간의 이동성', '정신', '건강', '성별', '인격성'과 같은 용어가 핵심적인 역할을 했고, 두 집단의 차이는 인지 다양성이 생성된 연구에 영향을 미친다는 생각과 일치했으며 그것이 사회적 이슈에 대한 관여를 증가시키게 된다는 것을 암시했다.

◆ 어떻게 고칠 것인가?
그렇다면 AI 연구의 이런 성별 차이는 무엇을 의미하며 이에 대해 우리가 할 수 있는 것은 무엇일까?

연구결과는 과학, 기술, 공학 및 수학(STEM) 노동력에서의 성별 다양성이 한가지 원인에 의해서 야기된 것이 아니라는 것을 보여준다. 성별 고정관념과 차별, 역할 모델과 멘토 부족, 일과 삶의 균형에 대한 불충분한 주의, 기술 산업의 '나쁜' 작업 환경이 복합적으로 모여 성 편입에 대해 더할 수 없이 나쁜 조건을 만든다.

AI 연구에서 성격차를 해소하기 위한 쉬운 해결책은 없다. 시스템 전체적으로 저조한 그룹의 연구원들을 지원하고 성과를 도모하는 안전하고 포용적인 공간, 연구와 산업에서의 태도와 문화 변화, 그리고 많은 분야에서 AI의 변화, 잠재력에 대한 더 나은 커뮤니케이션을 위한 시스템 차원의 변화가 필요하다.

역할의 다양성을 높이기 위한 정부로부터의 13.5만 파운드 투자와 같은 정책적 개입은 상황을 개선하는 데 어느 정도 도움이 되겠지만, 예술, 인문, AI 사이의 더 나은 연계를 만들기 위해서는 보다 광범위한 개입이 필요해 누가 AI와 일할 수 있는지에 대한 이미지를 변화시킬 수 있다.

여학생들이 STEM 과목 학습을 중단해야하는 이유는 없지만, 성별에 대한 보편적인 고정관념을 포함해 실제 증거로 '여학생들이 남학생들보다 어려움을 겪는다'는 결과가 있다. 반드시 AI를 통해 긍정적 변화를 만들어내는 역할 모델들을 알려야 한다.

이러한 문제를 해결하기 위한 한가지 해결책은 '경도 탐험 시상'으로 중등 학교 학생들이 AI를 사용해 사회적 도전을 해결하고 AI의 역할 모델을 사용하도록 장려하는 것이다. 사회는 젊은이들 특히 소녀들이 AI의 잠재력과 변화를 이끄는 역할을 실현하기를 원한다.

젊은 여성들에 대한 기술과 자신감을 키워줌으로써 AI를 활용해 공부하고 일하는 사람들의 비율을 바꿀 수 있고, AI의 잠재적인 편견을 해소하는데 도움을 줄 수 있다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
이슈포토
  • ‘에너지 전환 정책’, 2019 국감서 공방 예상
  • KERI, 재폐로 차단기 관련 무료교육 실시
  • 빅데이터 플랫폼 및 센터 구축 사업, 22개소 센터 선정
  • 현대차그룹 신재생에너지 시장 진출
  • IoT와 빅데이터 주제 '사물 인터넷 컨퍼런스' 중국에서 열려
  • 산업부, 제16차 ASEAN+3 에너지장관회의 및 제13차 동아시아 에너지장관회의 참석