(AI타임스=이혜진 기자)
해군 비행기가 정글 위를 낮게 날아가면서 아래의 캐노피 안에 장치 묶음을 떨어뜨렸다. 일부는 마이크로 게릴라 발자국이나 트럭 점화 소리를 듣기 위한 것이고, 다른 일부는 지상의 미세한 진동에 반응하는 지진 감지기였다. 가장 이상한 것은 인간의 소변에서 암모니아 냄새를 탐지하는 후각 센서였다. 수만개의 전자 제품이 그들의 데이터를 드론과 컴퓨터에 전송했다. 몇 분 후면 전투기가 알고리즘적으로 정렬된 격자 사각형을 융단폭격으로 폭격할 것이다. 이글루 화이트 작전은 1970년에 시행된 미래의 전쟁이었다.
라오스에서 베트남으로 이어지는 호찌민 오솔길을 끊으려는 미국의 노력은 성공적이지 못했다. 그것은 1년에 약 1억 달러(오늘날의 달러 약 7.3억 달러)의 비용이 들었으며, 모든 트럭이 파괴될 때마다 10만 달러(오늘날의 73만 달러)가 들었다. 그렇지만 공격을 멈추지 않았다. 그러나 반자동 전쟁의 유혹은 결코 사그라들지 않았다. 센서로부터 데이터를 수집하고, 더 많은 처리능력으로 보강한 알고리즘으로 데이터를 처리하고 결과적으로 적보다 빠르게 침투하는 것은 가장 중요한 군사적 사고의 핵심이다. 그리고 오늘날 그것은 인공지능의 새로운 발전으로 인해 더 강력해 졌다.
AI는 2월에 첫 AI 전략 문서에서 "미래 전장의 성격을 변화시킬 것"이라고 선언하였다.
미국 국방부의 지난 2월 첫 AI전략 문서에 “AI는 미래 전쟁의 성격을 변화 시킬 것” 이라고 선언하였다. 2018년 여름 미국 국방부에 합동 인공지능센터(JAIC)가 출범했고, 3월 국가 안보 위성과 첫 미팅을 하였다. 국방부의 2020년 AI 에 대한 예산은 1억 달러에 육박하며 이것은 AI에 의존하는 무인 및 자율 기능의 4배 이상 예산이다.
기계의 출현
2030년까지 AI에서 세계를 이끌고자 하는 중국과 블라디미르 푸틴 대통령이 "이 영역에서 누가 선구자가 되든 세계의 지배자가 될 것"이라고 예고한 러시아에서도 비슷한 움직임이 벌어지고 있다. 그러나 역설적인 것은 AI가 즉시 전쟁의 안개에 침투하여 이를 인간에게 근본적으로 불투명하게 만드는 속도와 복잡성으로 대처하도록 할 수도 있다는 점이다.
2030년까지(어떤 기준인지는 불분명 하지만) AI 분야의 선구자가 되고자 하는 중국과 러시아도 비슷한 양상을 보이고 있고, 러시아 블라디미르 푸틴(Vladimir Putin) 대통령은 “이 분야를 이끄는 나라가 세계의 지배자가 될 것”이라고 예고한 바 있다. 역설적인 것은 AI 가 인간에게 본질적으로 불투명한 복잡성을 부여함으로서 언젠가 전쟁을 관통할 것이라는 것이다.
AI는 광범위하고 모호한 용어로 1950년대에 개척된 규칙을 따르는 시스템에서부터 컴퓨터가 스스로 과제를 수행하도록 가르치는 현대의 확률 기반 기계 학습에 이르기까지 다양한 기술을 포괄한다. 심층 학습- 특히 머신러닝에 대한 강력한 접근 방식, 신경망에서 영향을 받은 뇌의 여러 층을 포함 – 은 번역, 객체 인식 및 게임 플레이와 같은 다양한 작업에 능숙하다는 것을 증명했다(도표 참조).
펜실베니아 대학의 Michael Horowitz는 AI를 내연기관이나 전기에 비유한다. – 무수한 응용을 통해 활성화 할 수 있는 기술. 그는 AI의 군사 적용 방식을 세가지로 나눴다. 하나는 기계가 사람의 감독 없이 행동할 수 있는 것이며, 두번째는 대량의 데이트를 처리하고 해석하는 것, 세번째는 전쟁의 지휘와 통제에 도움을 주거나 심지어 지휘하는 것이다.
전쟁을 시작하다. 자율성의 매력은 명백하다. 로봇은 인간보다 더 싸고, 더 단단하고, 더 소모적이다. 전장을 배회할 수 있는 기계는, 피를 흘리면서도 그 부담을 짊어 질만큼 지능적이어야 한다. 지능적이지 못한 드론은 전투에서 오래 살아남지 못할 것이다. 더 나쁜 것은 전쟁 범죄가 일어나기를 바라는 지능적이지 않은 총기로봇이다. 그래서 AI는 기계에 필수적인 기술을 부여해야 한다. 그것들은 인지나 네비게이션 같은 단순한 기술과 다른 요원들과의 협업 같은 고차적인 기술들을 포함한다.
이러한 능력을 결합한 지능적인 기계는 인간 개개인이 할 수 없는 일을 할 수 있다. 킹스 칼리지 런던의 케네스 페인(Kenneth Payne)은 "이미 AI 시스템은 모의 공중 전투에서 숙련된 군 조종사를 능가할 수 있다"고 지적했다. 지난 2월 미 국방부 블루스카이(Blue-sky-thinking) 부서의 국방고등연구계획국(DARPA)는 인간과의 접촉이 끊긴 경우에도 "매우 위험한" 환경에서 협업 할 수있는 6 개의 강력한 드론 그룹의 최신 테스트를 수행했다.
그럼에도 불구하고, 대부분의 그런 시스템들은 아슬아슬 하고 부서지기 쉬운 지능을 가지고 있다 – 잘 정돈된 환경에서 한가지 업무는 잘하지만, 익숙하지 않은 환경에서는 실패하기 쉽다. 그래서 현존하는 자율 무기는 레이더에 부수는 배회 미사일이나 선박과 기지를 방어하는 속사포 총 으로 구성된다. 유용하지만 혁명적이지는 않으며, 최근 몇 년 동안 개척된 화려한 기계 학습 기법을 필요로 하지도 않는다.
증진. 증진. 증진
AI가 전장에서만 유용하다고 생각하는 것은 실수다. 로봇은, 킬러거나 아니거나, 자신들이 본것에 작용해야 한다. 그러나 첩보기와 위성 같은 많은 군사 플랫폼에서 중요한 것은 유용한 정보로 바뀔지도 모르는 기초 데이터를 다시 전송하는 것이다. 현재 그 어느 때보다도 더 많은 정보가 있다. 2011 년 한 해 동안 미국의 11,000 대 드론은 327,000 시간 (37년)의 영상을 다시 전송했다.
그것들의 대부분은 보지않고 남아있다. 다행히도, 두번째 중요한 군의 AI 응용프로그램은 데이터 처리에남아 있다. 연구실 기반 테스트에서 알고리즘은 2015년까지 이미지 분류에서 인간의 성능을 능가했으며, 2015년에서 2018년 사이에 단일 이미지에서 여러 개체를 선택하는 것과 같은 더 어려운 작업인 개체 분할에서 거의 두 배의 성능을 발휘했다. 컴퓨터 시력은 완벽과는 거리가 멀며 인간 관찰자를 속이지 않는 방법으로 이용될 수 있다. 한 연구에서, 인간에게는 감지할 수 없는 판다 이미지의 픽셀의 0.04%가 바뀌면서 시스템이 긴팔원숭이를 보게 되었다.
그러한 약점에도 불구하고 2017년 2월 미 국방성은 심층적인 알고리즘이 "거의 인간적인 수준에서 수행될 수 있다"는 결론을 내렸다. 그래서 처음에는 이슬람 국가와의 전쟁 장면나왔고 지금은 더 알려진, 깊은 학습과 다른 기술을 사용하여 물체와 의심스러운 행동을 식별하는 "프로젝트 매븐"으로 알려진 "알고리즘 전쟁" 팀을 설립했다. 그 목적은 종종 폭탄이 떨어지거나 특수부대가 문을 차고 들어오는 것으로 끝나는 "실행 가능한" 지능을 생산하는 것이다.
프로젝트 메븐에 대해 잘 알고 있는 한 내부자는 분석가들에게 시간 절약과 새로운 통찰력 면에서 이점이 현재로서는 미미하다고 말한다. 예를 들어, 도시 전체에서 볼 수 있는 광각 카메라는 많은 수의 긍정오류 들을 나타낸다. "하지만 이러한 시스템의 특성은 매우 반복적입니다,"라고 그는 말한다. 진행은 빠르며 프로젝트 메븐은 빙산의 일각에 불과하다.
영국 회사인 Earth-i는 98% 이상의 정확도로 수십 기지에서 다양한 종류의 군용 항공기를 식별하기 위해 다양한 인공위성을 통해 기계학습 알고리즘을 적용할 수 있다고 현재 이 회사에 근무하고 있는 영국 공군(RAF)의 퇴역 공군 부사관인 Sean Corbett이 밝혔다. "영리한 부분’은 그리고 나서 무엇이 정상이고 무엇이 정상인지 자동으로 식별할 수 있는 방법을 개발하는 것이다."라고 그는 말한다. 시간이 지남에 따라 기지를 관찰함으로써 소프트웨어는 일상적 배치와 불규칙한 움직임을 구별하여 분석가들에게 중요한 변화를 경고할 수 있다.
물론 알고리즘은 두루 관심을 갖고 이미지뿐만 아니라 어떤 종류의 데이터도 공급할 수 있다. 12월 영국의 정보기관 MI6의 알렉스 영거 경은 "대규모 데이터와 현대적 분석이 결합되어 현대 세계를 투명하게 만든다"고 말했다. 2012년 미국의 신호정보기관은 NSA에서 문서를 유출하여 테러 단체의 배달원을 찾기 위해 파키스탄 휴대 전화 데이터에 기계 학습을 적용한 프로그램 (Skynet이라고 함)을 설명했다.
예를 들어, 지난 한 달 동안 라호르에서 페샤와르의 국경도시로 여행을 가서 평소보다 핸드셋을 자주 끄거나 교환한 사람은 누구인가? "지휘관들이 질문을 하고 정보기관들이 수집 자산을 이용해 답을 찾는 이전 시대에서 답을 찾을수있는 클라우드로 지능을 옮기기 시작했다. 2016년까지 영국의 연합군을 지휘했던 은퇴한 장군 리차드 배런 Richard Barrons경은 말한다.
실제로 문제의 데이터가 항상 적으로부터 나올 필요는 없다. JAIC의 첫 번째 프로젝트는 무기나 스파이 도구가 아니라 블랙호크 헬리콥터의 엔진 고장을 예측하기 위한 특수부대와의 협력이었다. 이 알고리즘의 첫 번째 버전은 4월에 제공되었다. 지휘통제기와 수송기에 대한 공군력 테스트 결과, 그러한 예측적 유지보수는 예정에 없던 작업을 거의 3분의 1까지 줄일 수 있으며, 이는 국방부가 현재 유지보수에 쓰고 있는 78억 달러의 대폭 삭감을 가능하게 할 수도 있다.
AI 쿠테타
물론 정보를 처리하는 포인트는 그것에 따라 행동하는 것이다. 그리고 AI가 전쟁을 변화시키는 세 번째 방법은 소대에서 전국 본부에 이르기까지 군사 의사 결정에 침투하는 것이다. 이스라엘 AI 회사인 UNIQAI가 만든 툴인 노던 애로우(Northern Arrow)는 적의 위치, 무기 범위, 지형, 날씨 등의 변수에 대한 대량의 데이터를 분석함으로써 지휘관들이 임무를 계획하는 데 도움이 되는 많은 제품들 중 하나이다. 이 과정은 보통 지도에서 구식으로 진행할 때 군인들에게 12시간에서 24시간이 소요되는 작업.
여기에는 책과 매뉴얼의 데이터 (예 : 다른 고도에서의 탱크 속도)와 숙련 된 사령관과의 인터뷰가 제공된다. 그런 다음 알고리즘은 의사 결정자에게 옵션을 제공하고 각각의 의사 결정 이유에 대한 설명을 제공한다.
Northern Arrow와 미국의 유사한 CADET 소프트웨어와 같은 이러한 "전문가 시스템" 플랫폼은 한 번의 테스트에서 CADET의 경우 16명의 작업 시간에 비해 2분이나 더 빨리 작동할 수 있지만, 알고리즘적으로 간단한 규칙 추종 기법을 사용하는 경향이 있다. 과거 표준에 따르면 이는 AI로 간주되지만, 대부분은 결정론적 방법을 사용하는데, 이는 동일한 입력으로 항상 동일한 산출물이 생성된다는 것을 의미한다. 이는 1945년 포탄 사격대를 만든 세계 최초의 전자 범용 컴퓨터인 ENIAC의 산출물을 사용한 병사들에게 친숙할 것이다.
현실세계에서 예외성은 종종 정확한 예측을 하는데 방해가 되기 때문에, 많은 현대의 AI 시스템은 규칙 추종과 더 복잡한 계획을 위한 디딤돌로서 추가된 예외성을 결합한다. DARPA의 실시간 인식 및 의사 결정(RAID) 소프트웨어는 앞으로 5시간 동안 적군의 목표, 움직임 및 가능한 감정까지도 예측하는 것을 목표로 한다. 이 시스템은 문제를 더 작은 게임으로 축소시켜 그것들을 해결하는 데 필요한 계산력을 줄이는 게임 이론의 유형에 의존한다.
2004년과 2008년 사이의 초기 테스트에서 RAID는 인간 계획자보다 더 정확하고 빠른 속도로 수행되었다. 바그다드에서의 2시간 동안의 모의 전투에서, 사람팀 은 RAID나 다른 인간과 싸웠다; 그들은 절반도 안 되는 시간 동안 그들을 구별할 수 있었다. 은퇴 한 대령들은 이라크 반란군들이 소프트웨어에 대해 “무서워했다”는 사실을 모방하기 위해 초안을 작성했다고 디자이너들 중 한 명인 보리스 스틸만 Boris Stilman은 말했다. “서로 대화를 하지않고 대신 수신호를 사용했다” RAID는 현재 군용으로 개발되고 있다.
최신의 심층 학습 시스템은 그 중에서도 가장 수수께끼 같은 것이 될 수 있다. 2016년 3월 딥마인드가 구축한 딥러닝 알고리즘 알파고 AlphaGo가 중국의 고대 전략 게임인 바둑에서 세계 최고 선수 중 한 명을 꺾었다. 그 과정에서 일파고는 전문가들을 혼란스럽게 하는 매우 창의적인 움직임이 있었다. 바로 다음 달, 중국 군사과학 아카데미는 이 시합의 의미에 대한 워크숍을 열었다. 중국의 군사혁신 전문가인 엘사 카니아 Elsa Kania)는 "중국 군사전략가들에게 알파고의 승리로 얻은 교훈 중 하나는 인공지능이 전쟁 게임과 비교할 수 있는 게임에서 인간 플레이어보다 뛰어난 전술과 계략을 만들어 낼 수 있다는 사실"이라고 말했다.
게임을 시작해볼까?
2018년 12월 딥마인드의 또 다른 프로그램인 알파스타는 선수들에게 정보가 숨겨져 있고 바둑보다 더 많은 자유의지(잠재적 움직임)를 가진 실시간 비디오 게임인 스타크래프트 II에서 세계 최강자를 제쳤다. 많은 장교들은 이런 게임플레이의 결과가 결국 군 역사에서 길이남을 종류의 창의적이고 기교적인 기동력을 발휘할 수 있기를 희망 하고 있다. 상업 기술 활용을 담당하고 있는 국방부 기구 국방혁신실 (Defense Innovation Unit) 마이클 브라운 소장은 AI가 가능한 "전략적 추론"이 그의 조직의 우선순위 중 하나라고 말한다.
그러나 인간의 창의력을 능가하는 알고리즘이 인간의 이해를 따돌린다면, 그들은 법률, 윤리, 신뢰의 문제가 발생한다. 전쟁의 법칙은 비례성(민간의 해악과 군사적 이점 사이)과 필요성과 같은 개념에 대한 일련의 판단을 요구한다. 왜 표적이 선택되었는지 설명할 수 없는 소프트웨어는 아마도 그러한 법을 준수할 수 없을 것이다. 비록 그럴 수 있다 하더라도, 사람들은 겉으로 보기에 마법의 8-Ball과 비슷할 수 있는 의사결정 지원을 믿지 않을 수도 있다.
미 공군 정보관인 키스 디어(Keith Dear)는 "AI가 군사전략에 적용돼 우리가 고려할 수 있는 이상의 여러 가지 상호작용에 대한 확률적 추론을 계산하고 이해할수 없는 행동 방침을 권고한다면 우리는 어떻게 해야 하는가" 라고 말했다. 몰도바에서의 러시아군의 침입에 대응하여 바쿠에서의 오페라 자금 지원을 제안할 수 있는 AI에 대해 예를 든다. 그것은 적은 말할 것도 없고 자신의 군대를 방해할수 있는 초현실적인 작전이다. 그러나 AI가 지휘관이 즉시 인식 할 수 없는 일련의 정치적 사건을 파악한 결과 일 수 있습니다.
그렇더라도 인간은 불가침성과 효율성 사이의 절충을 받아들일 것이라고 그는 예측한다. "오늘날의 기술의 한계에도 불구하고, AI는 "대규모 실시간 시뮬레이션"을 사용하여, 실제 전투에서의 의사 결정을 지원할 수 있다.
그것은 생각보다 멀지 않았다. 리처드 배런스 경은 영국 국방부가 단일 합성 환경으로 알려진 복잡한 운영 환경의 클라우드 기반 가상 복제를 위해 "Fortnite"와 같은 대규모 온라인 비디오 게임에 전력을 공급하는 소프트웨어의 군사 버전인 기술 시승기를 이미 구입하고 있다고 지적한다.
영국 국방부는 이미 복잡한 운영환경(단일 합성 환경이라고도 함) 의 클라우드 기반 가상 복제를 위한 기술 프로그램을 이미 구매하고 있으며, 이는 본질적으로 “Fortnite”와 같은 대규모 온라인 비디오 게임을 지원하는 군 버전의 소프트웨어다.
공개된 표준을 이용해 게임업체인 Improbable과 비행 시뮬레이션으로 유명한 CAE에 의해 만들어 졌으며, 비밀 정보에서 실시간 가상 데이터에 이르기까지 모든 것을 연결 할수 있다.
리처드 경은 "명령과 통제가 어떻게 이루어지는지에 혁명을 일으킬 것"이라고 말한다. 빅 데이터와 그것을 이동시킬 네트워크, 그리고 그것을 처리하기 위한 클라우드 컴퓨팅이 있는 한 말이다. 그렇게 되면 "국가 안보회의로부터 전술 사령관으로 단일 통합 지휘 도구"가 가능해진다.
사람 없는 자동화?
서양 정부들은 인간이 일을 감독하면서 '교차 될' 것이라고 주장한다. 그러나 그들 자신의 많은 장교들조차 납득하지 못하고 있다. 디어(Dear) 사령관은 "전술에서 전략까지 의사결정을 하는 과정에서 인간은 점점 소외될 것 같다"고 말했다. 전투가 "인간의 인지 능력 이상으로" 가속화될 것이라는 기대는 한자에서도 나타나고 있다고 카니아 양은 말한다. 결과는 자동화된 전쟁터일 뿐만 아니라 자동화된 무기가 될 것이다. 전쟁이 시작될 때, 상호 연결된 AI 시스템은 미사일 발사대에서 항공기 수송기에 이르기까지 목표물을 골라내고, 가장 효율적인 순서로 그것들을 파괴하기 위한 빠르고 정확한 공격을 할 것이다.
그것의 더 넓은 결과는 여전히 불명확하다. 자커리 데이비스 Zachary Davis는 로렌스 리버모어 국립 연구소의 최근 논문에서 “정확하고 빠른 공격이 예상된다"고 쓰고 있다. 그러나 AI는 공격 임박 징후를 밝혀냄으로써 수비수들이 그러한 타격을 입는 것을 도울 수 있을 것이다. 또는 1960년대 베트남 정글에서 미국의 센서가 산산조각난것처럼 그러한 계획들은 비용이 많이 들고 잘못된 생각의 실패로 끝날 수도 있다. 그러나 어떤 권력도 경쟁국에 뒤처질 위험을 무릅쓰려 하지 않는다. 그리고 여기서 기술만이 아니라 정치가 영향을 미칠 수도 있다.
국방부가 AI에 지출한 비용은 2016년 대기업에 지출한 20억 달러~30억 달러의 일부분이다. 비록 많은 미국 회사들이 방위비를 받는 것을 기뻐하지만—아마존과 마이크로소프트는 펜타곤과 10억 달러짜리 클라우드 컴퓨팅 계약을 체결하고 있다- 다른 회사들은 더 교묘해졌다. 2018년 6월 구글은 4,000명의 직원들이 "전투 기술"에 대한 회사의 개입에 항의한 후, 프로젝트 메이븐에 대한 9백만 달러의 작업 계약이 올해 만료되는 것을 허용할 것이라고 말했다.
반면에 중국에서는 기업들이 국가의 서비스에 쉽게 참여할 수 있으며 개인정보 보호법은 사소한 방해물이다. 로버트 워크 전 미 국방부 부차관보는 6월 "만약 데이터가 AI의 연료라면 중국은 다른 국가들보다 구조적으로 유리할 수 있다"고 경고했다. 민간 데이터가 군사 알고리즘에 기름을 부을 수 있을지는 명확하지 않지만, 문제는 군사 지도자들의 마음에 있다. 잭 샤나한(Jack Shanahan) JAIC 사무총장은 8월 30일 “내가 보고싶지 않은 것은 우리의 잠재적인 적들이 AI가 가능한 완전한 전투력을 갖춘 것이다" 라며 우려를 나타냈다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com