신뢰할 수 있는 인공지능(AI)의 연구
상태바
신뢰할 수 있는 인공지능(AI)의 연구
  • 전승진 기자
  • 승인 2019.09.21 19:46
  • 댓글 0
이 기사를 공유합니다

(AI타임스=전승진기자) 우리는 인공지능이 스스로 배우는 시대에 살고 있다. 수술, 테러 탐지, 자율 운전 등과 같이 우리 생활에 밀접해진 인공지능 기술의 신뢰성이 중요해지고 있다.

2016년 5월 미국에서 무인주행차의 첫번째 사망자가 발생했다. 죠슈아 브라운(Joshua Brown)은 테슬라 자율주행 시스템으로 주행 중이었다. 자율주행 센서는 밝은 하늘과 앞서가던 흰색 트럭을 구분하지 못했고 그로 인해 비극적 결과가 발생했다. 물론 많은 사람들이 매일 자동차 충돌사고로 죽는다. 사실 인명피해가 발생하는 사고는 사람의 실수로 인한 것이 대부분임을 감안하면 자율주행차는 여행을 더 안전하게 만든다고 말할 수 있다.

그럼에도 불구하고, 이 비극을 보며 의문을 제기할 수 있다. 우리는 자율주행차의 인공지능을 얼마나 이해하고 신뢰하는가? 혹은 인간이 하는 활동을 배우도록 설계된 기계를 신뢰할 수 있을까?

우리는 지금 인공지능 학습의 시대에 살고 있다. 인공지능은 환경의 특정 패턴을 인식하고 적절하게 대응하도록 훈련될 수 있다. 디지털 카메라가 얼굴을 감지하고 설정 박스 안으로 초점을 맞추거나, 스마트폰의 개인 비서가 질문을 답하거나, 온라인에서 검색 할 때 광고가 내 관심사와 일치하는 것도 모두 인공지능에 의한 것이다.

인공지능은 인간과 동물이 배우는 방식으로 컴퓨터 프로그래밍 경험을 통해 배우고 성능을 향상시킨다. 케임브리지 공학부 정보공학과의 주빈 가흐라마니 (Zoubin Ghahramani) 교수는 인공지능이 금융에서 의료에 이르기까지 모든 분야에서 보편화되면서 신뢰의 문제가 점점 더 중요해지고 있다고 말했다.

그렇다면 생사의 판정에 직면하여, 무인 자동차가 보행자와 탑승자 중 누구의 목숨을 더 가치 있다고 판단하는가?

의학 진단 내릴 때, 너무 작은 표본을 바탕으로 하면 기계의 정확성이 떨어질 것인가?

금융 거래를 할 때, 컴퓨터가 주식시장의 변동성에 대해 얼마나 정화하게 평가할 수 있을까?

가흐라마니는 "인공지능은 지금까지 보지 못한 상황이나 불완전한 데이터 그룹과 접하더라도 많은 인지적 작업에서 인간에 가까운 능력을 달성할 수 있다"고 말한다. "하지만 '블랙박스' 안에서는 무슨 일이 벌어지고 있는 것일까? 결정이 내려지는 과정이 더 투명하다면 인공지능을 더 신뢰할 수 있을 것이다."

그의 팀은 이러한 기술의 핵심에 있는 알고리즘을 구축한다. 신뢰와 투명성은 그의 팀에 있어서 매우 중요한 주제이다. 그는 인공지능은 불확실성을 이해하는 틀 안에 있다고 본다. 데이터를 보기 전에 많은 불확실성에서 시작하여 더 많은 데이터를 가질수록 점점 더 확실성을 갖게 될 것이다.

인공지능이 결정을 내릴 때, 우리는 이 과정에서 어떤 단계에 도달했는지를 명확히 밝히기 원하며 인공지능의 확신이 없을 때 우리에게 알려주길 원한다. 한 가지 해결방법은 인공지능 스스로 정확성을 시험하고 다시 보고할 수 있도록 내부 자체 평가 또는 교정 단계를 구축하는 것이다.

2년 전 가흐라마니 그룹은 구글에서 자금 지원을 받아 자동 통계 전문 시스템을 구축하였다. 이 시스템은 과학자들이 통계적으로 중요한 패턴에 대한 데이터를 분석할 수 있도록 돕고, 결정적으로 예측에 대한 정확성을 설명하는 보고서도 제공한다.

(사진출처 = 123RF)
(사진출처 = 123RF)

“인공지능 시스템의 어려움은 실제로 그 안에서 무슨 일이 일어나고 있는지 모른다는 것이고, 제공되는 해결방안은 인간이 하는 것과는 달리 상황에 맞지 않는다는 것이다. 자동 통계 전문 시스템은 사람이 이해할 수 있는 형태로 설명이 가능하다.”

의료 진단과 같이 투명성이 특히 중요한 분야의 경우, 이를 신뢰하기 위한 결정 방법의 입증에 대한 이해가 필요하다.

가흐라마니와 함께 일하는 애드리안 웰러(Adrian Weller) 박사는 학습하거나 진화하는 새로운 인공지능 시스템의 문제는 인공지능의 프로세스가 인간이 이해하는 합리적인 의사결정 과정에서 명확히 이해되지 않기 때문이라고 말한다. 그의 연구를 통해 이러한 프로세스를 더 정확하고 투명하게 만들고, 트레이닝 환경을 넘어 실제 상황에서 시스템이 사용될 때 발생하는 문제를 해결하는 것을 목표로 한다. 인공지능 시스템이 상황을 모니터링하고, 환경이 변화되었는지 감시하며, 안정적으로 작업할 수 없는 환경인지 확인하고, 경고를 보낸 후 안전모드로 전환되는 시스템이 필요하다. 예를 들면 교통량이 많고 안개가 자욱한 밤에는 인간 운전자의 개입이 필요하다고 판단할 수 있다. 인공지능 기술을 개발하는 과정에서 인간을 대체하는 것보다 인간에게 어떻게 도움이 될 수 있는지 이해하는 것이 중요하다. 철학자, 사회과학, 인문학, 컴퓨터공학 등 여러 분야의 전문가들이 인공지능 기술이 사회에 미치는 영향들을 연구할 것이다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
이슈포토
  • [심층취재] 태양광 REC 가격급락, 원인과 대책
  • 산업부, '호남지역' 신재생에너지 2차 정책순회협의회
  • [4차산업①] 시장환경
  • 한국에너지공단, 하반기 신재생에너지공급의무화(RPS) 고정가격계약 경쟁입찰 계획 공고
  • [심층취재] 태양광 발전 보급과 REC 가격하락...정부의 대책은?
  • 포브스 (Forbes) 선정, 2020년을 주도할 7가지 기술 분야