추천 콘텐츠
AI 전투기가 부를 미래
2024년 3월 6일, explained
AI 시대의 전쟁은 조용하다. 우리는 조용한 전쟁을 마주할 준비가 됐을까?
우크라이나 군용 드론에 표적 연습용 더미 수류탄이 탑재돼 있다. 사진: Scott Peterson/Getty Images
NOW THIS
미국 공군이 인공지능 무인 전투기 개발을 본격화한다. 군사력 강화, 비용 효율성 강화를 위해서다. 무인 전투기의 생산 비용은 주력 전투기의 20분의 1 가격에 불과하다. 불필요한 인명 피해를 우려할 필요도 없다. 현재 인공지능 기반 무인 전투기를 개발하는 군수 업체는 보잉, 록히드마틴, 노스럽그루먼, 제너럴 아토믹스, 안두릴 등이다. 다섯 곳 모두 이번 사업에 입찰할 전망이다.
WHY NOW
현대전은 시끄러웠다. 보도 사진이, TV 화면의 이미지가, 생방송 되는 실시간 전쟁이 사람들 사이에서 화두가 됐다. 그 소란스러움은 담론을 만드는 힘으로 이어졌다. 인공지능 무인 전투기의 전쟁은 다르다. 시끄러운 전쟁의 시기가 저물고 조용한 전쟁이 도래한다. 누구나, 또 언제나 전쟁할 수 있는 시대가 가까워진다. 인공지능 전투기가 불러올 전쟁의 시대는 어떤 모습일까.
인공지능 무인 전투기
그간의 전장에 투입돼 온 무인기는 인간이 비행을 원격으로 조종해야 했다. 인공지능은 이 전투기 조종사의 손과 결정을 대체한다. 인공지능은 자체적으로 주변의 위험 요소를 식별하고 평가한다. 안면 인식 기술로 적과 동지, 표적을 구분한다. 인간 전투원은 무인기에 공격 명령을 내리기만 하면 된다. 버튼 하나면 정확하고 예리하게, 손에 피 한 방울 묻히지 않고 작전을 수행할 수 있다. 주 전투기를 보호할 수도, 데이터를 모아 작전 회의에 사용할 수도 있다. 사람이 타지 않으니 병력을 보호할 수 있는 건 당연하다. 비용도 저렴하다. 미 공군과 방산 업체 ‘크라토스 솔루션즈’가 개발한 인공지능 무인 전투기 ‘발키리’ 생산비는 한 대당 53억 원으로, F-35 전투기의 20분의 1 수준이다.
우크라이나 전쟁
차세대 전투기와 전쟁용 드론은 발발 3년 차에 접어든 러시아-우크라이나 전쟁에서 본격적으로 드러나기 시작했다. 러시아와 우크라이나 모두 드론에 대한 의존도가 절대적이다. 민간 위성과 드론이 공중에서 표적을 식별해 데이터를 전달하면 인공지능은 그 데이터를 종합해 표적 주변의 부대에 직접 공격 명령을 내렸다. 빠른 속도로 작전을 전개할 수 있었다. 우크라이나는 해군 드론을 통해 크림 다리 일부를 파괴하기도 했다. 구글의 전 CEO인 에릭 슈미트는 전쟁 속 드론의 활약상을 보며 결론 내렸다. “전쟁의 미래는 드론에 의해 결정되고, 수행될 것”이라 말이다.
AI 기관총
우크라이나, 러시아만 전쟁 중인 건 아니다. 우리가 모르는 전쟁이 지금도 전 세계에서 조용히 진행 중이다. AI 기술은 이런 조용한 전쟁에서도 적극 활용되고 있다. 2022년, 이스라엘은 요르단강 서안지구 헤르본 통제지역 검문소에 AI 기관총을 설치했다. 인공지능 기술을 통해 목표물의 움직임을 예측, 표적을 자동으로 조준해 사격할 수 있는 무기다. AI 기관총을 개발한 ‘스마트 슈터’의 CEO인 미할 모어(Michal Mor)는 “보통 테러리스트는 많은 사람이 있는 환경에 있을 것”이기 때문에 정확하게 표적만 공격하는 AI 기관총이 더 나을 것이라 평했다.
게임이거나, 트라우마거나
검문소의 AI 기관총과 가장 가까이 사는 알 아루브 수용소의 주민은 AI 기관총이 치르는 조용한 전쟁을 이렇게 표현했다. “군인은 큰 어려움 없이 총을 발사한다. 버튼을 누르면 총알이 저절로 발사된다.” 그가 말했듯, 자동화된 작전 뒤에도 언제나 인간이 있다. 조 바이든 미국 대통령의 최고 군사 고문인 마크 밀리 장군은 AI를 활용하더라도 인간이 의사 결정 과정에 남아있어야 한다고 말했으며 동일한 표준을 채택할 것을 촉구했다. 인간 조작자는 여전히 살해할 목표, 다른 말로는 표적과 공격 여부를 선택해야 한다. 여기서 인공지능 전쟁의 딜레마가 생긴다. 분명 사람은 죽는데, 죽이는 것 같지가 않다. 걷거나 소리치거나, 총의 진동을 느끼거나 피를 보지 않아도 전투 작전을 수행할 수 있다. 인공지능과 함께하는 전쟁은 양면으로 나뉜다. 게임이 되거나, 조용한 윤리적 트라우마로 남거나.
더티 워크
미국의 작가이자 탐사보도 전문 기자인 이얼 프레스는 그의 저서 《더티 워크》에서 무인 전투기, 드론 조종사를 ‘더티 워커’로 정의한다. ‘더티 워크(dirty work)’는 사회에 꼭 필요하지만 도덕적, 윤리적으로 더럽다고 여겨지는 노동을 뜻한다. 교도관과 도살자 등이다. 사회는 그들을 필요로 한다. 꼭 필요한 일인데도 더티 워커는 일을 하면서 낙인과 죄의식, 트라우마 등의 부담을 진다. 드론 전투는 매끄럽고, 정교하다. 물성이 없으니 살인에 점차 무감각해질 뿐 아니라 어디까지가 살인이고 전투인지 혼란스러워진다. 자의적 살인에 관한 유엔 특별보고관을 역임한 필립 앨스턴(Philip Alston)은 드론 조종사들이 “플레이스테이션식 사고 방식을 습득할 위험이 있다”고 경고한다. 《더티 워크》에 소개된 한 드론 전투원은 무고한 사람들이 다치고 죽는 광경을 들여다봐야만 하는 꿈을 자주 꿨다. “마치 뇌가 나에게 이렇게 말하는 것 같았어요. 이거 네가 놓친 부분들이야. 꿈꾸는 동안 잘 봐둬.”
시끄러운 전쟁
본래의 전쟁은 시끄러웠다. 이 시끄러움과 소란함은 전쟁 일부를 구성하는 요소였다. 현대 전쟁이 군사적 물리력만의 싸움은 아니었다는 뜻이다. 전쟁에 임하는 양측의 정당성이 대중의, 언론의, 정치의 심판을 받아야 했다. NBC와 CBS는 1960년대의 베트남전을 보도하며 여론이 전쟁의 어떤 면을 부각할 것인지의 문제를 제기했고, 1991년의 걸프전은 생방송을 통해 전쟁을 실시간 영역에 투입했다. 반면, 드론 전쟁은 조용하다. 한두 명의 표적이 죽는 것만으로 미디어는 움직이지 않는다. 그가 알렉세이 나발니가 아닌, 팔레스타인 서안지구 끝자락에 거주하는 주민일 경우에는 더더욱 그렇다. 전쟁의 많은 부분이 외주화되는데 그 누구도 드론 조종사에게, 안면 인식 기술이 확정한 표적에 무대의 조명을 비추지 않는다.
담론 없는 전쟁
조용한 전쟁에는 담론이 없다. 독일의 정치철학자 카를 슈미트는 정치를 ‘적과 동지를 구별하는 과정’이라 정의했다. 이때의 구별 짓기는 자동으로 이뤄지지 않는다. 슈미트가 말했듯, 적과 동지를 정의하는 과정에는 인간의 집단적 상호 행위가 전제돼야만 한다. 담론 없는 전쟁, 소음 없는 전쟁은 이 과정에 대중의 자리를 비워 두지 않는다. 순간의 상황에, 개인의 판단에 따라 전쟁이 치러질 가능성이 커진다. 저렴한 가격의 무인기를 가진 헤즈볼라가, 후티 반군이, ISIS가 표적이 된 소수만 정확히 죽이는 형태의 전쟁이 가능해진다는 뜻이다. 언제, 왜 시작됐는지가 불분명한 전쟁에는 미디어도, 사람들도 주목하기 어렵다. 대중은 누가 적과 동지인지, 더 나아가 적과 동지를 구분해야 하는 이유가 무엇인지조차 감지할 수 없게 된다.
IT MATTERS
전쟁 시뮬레이션의 의사 결정자가 된 오픈AI의 GPT-4는 전쟁을 멈추기 위해 핵폭탄을 썼다. “단지 세계에 평화가 있기를 원하기 때문”이었다. 인공지능은 평화를 위해 핵전쟁을 시작한다. 인간은 그렇지 않다. 핵폭탄은 전쟁을 가장 빠르고 손쉽게 끝낼 효율적인 방법이다. 그러나 사회와 시대가, 세계가 만든 담론은 그런 곳에 윤리적 선을 긋지 않았다.
영화 〈오펜하이머〉가 집요하게 포착한 복잡미묘한 표정은 인공지능 시대에도 반복될 것이다. 핵심은 인간처럼 생각하는 인공지능이 아닌 인공지능처럼 생각하는 인간이다. 새로운 오펜하이머 모먼트는 인공지능 기술이 전쟁을 지배하는 기술적 도약만이 아닌, 전쟁이 잊히는 순간을 말할지 모른다. 사람들은 점차 전쟁을 잊어 갈 것이다. 전쟁이 완전히 잊히기 전에 정치적 과정을 복원해야 한다.
미국 공군이 인공지능 무인 전투기 개발을 본격화한다. 군사력 강화, 비용 효율성 강화를 위해서다. 무인 전투기의 생산 비용은 주력 전투기의 20분의 1 가격에 불과하다. 불필요한 인명 피해를 우려할 필요도 없다. 현재 인공지능 기반 무인 전투기를 개발하는 군수 업체는 보잉, 록히드마틴, 노스럽그루먼, 제너럴 아토믹스, 안두릴 등이다. 다섯 곳 모두 이번 사업에 입찰할 전망이다.
WHY NOW
현대전은 시끄러웠다. 보도 사진이, TV 화면의 이미지가, 생방송 되는 실시간 전쟁이 사람들 사이에서 화두가 됐다. 그 소란스러움은 담론을 만드는 힘으로 이어졌다. 인공지능 무인 전투기의 전쟁은 다르다. 시끄러운 전쟁의 시기가 저물고 조용한 전쟁이 도래한다. 누구나, 또 언제나 전쟁할 수 있는 시대가 가까워진다. 인공지능 전투기가 불러올 전쟁의 시대는 어떤 모습일까.
인공지능 무인 전투기
그간의 전장에 투입돼 온 무인기는 인간이 비행을 원격으로 조종해야 했다. 인공지능은 이 전투기 조종사의 손과 결정을 대체한다. 인공지능은 자체적으로 주변의 위험 요소를 식별하고 평가한다. 안면 인식 기술로 적과 동지, 표적을 구분한다. 인간 전투원은 무인기에 공격 명령을 내리기만 하면 된다. 버튼 하나면 정확하고 예리하게, 손에 피 한 방울 묻히지 않고 작전을 수행할 수 있다. 주 전투기를 보호할 수도, 데이터를 모아 작전 회의에 사용할 수도 있다. 사람이 타지 않으니 병력을 보호할 수 있는 건 당연하다. 비용도 저렴하다. 미 공군과 방산 업체 ‘크라토스 솔루션즈’가 개발한 인공지능 무인 전투기 ‘발키리’ 생산비는 한 대당 53억 원으로, F-35 전투기의 20분의 1 수준이다.
우크라이나 전쟁
차세대 전투기와 전쟁용 드론은 발발 3년 차에 접어든 러시아-우크라이나 전쟁에서 본격적으로 드러나기 시작했다. 러시아와 우크라이나 모두 드론에 대한 의존도가 절대적이다. 민간 위성과 드론이 공중에서 표적을 식별해 데이터를 전달하면 인공지능은 그 데이터를 종합해 표적 주변의 부대에 직접 공격 명령을 내렸다. 빠른 속도로 작전을 전개할 수 있었다. 우크라이나는 해군 드론을 통해 크림 다리 일부를 파괴하기도 했다. 구글의 전 CEO인 에릭 슈미트는 전쟁 속 드론의 활약상을 보며 결론 내렸다. “전쟁의 미래는 드론에 의해 결정되고, 수행될 것”이라 말이다.
AI 기관총
우크라이나, 러시아만 전쟁 중인 건 아니다. 우리가 모르는 전쟁이 지금도 전 세계에서 조용히 진행 중이다. AI 기술은 이런 조용한 전쟁에서도 적극 활용되고 있다. 2022년, 이스라엘은 요르단강 서안지구 헤르본 통제지역 검문소에 AI 기관총을 설치했다. 인공지능 기술을 통해 목표물의 움직임을 예측, 표적을 자동으로 조준해 사격할 수 있는 무기다. AI 기관총을 개발한 ‘스마트 슈터’의 CEO인 미할 모어(Michal Mor)는 “보통 테러리스트는 많은 사람이 있는 환경에 있을 것”이기 때문에 정확하게 표적만 공격하는 AI 기관총이 더 나을 것이라 평했다.
게임이거나, 트라우마거나
검문소의 AI 기관총과 가장 가까이 사는 알 아루브 수용소의 주민은 AI 기관총이 치르는 조용한 전쟁을 이렇게 표현했다. “군인은 큰 어려움 없이 총을 발사한다. 버튼을 누르면 총알이 저절로 발사된다.” 그가 말했듯, 자동화된 작전 뒤에도 언제나 인간이 있다. 조 바이든 미국 대통령의 최고 군사 고문인 마크 밀리 장군은 AI를 활용하더라도 인간이 의사 결정 과정에 남아있어야 한다고 말했으며 동일한 표준을 채택할 것을 촉구했다. 인간 조작자는 여전히 살해할 목표, 다른 말로는 표적과 공격 여부를 선택해야 한다. 여기서 인공지능 전쟁의 딜레마가 생긴다. 분명 사람은 죽는데, 죽이는 것 같지가 않다. 걷거나 소리치거나, 총의 진동을 느끼거나 피를 보지 않아도 전투 작전을 수행할 수 있다. 인공지능과 함께하는 전쟁은 양면으로 나뉜다. 게임이 되거나, 조용한 윤리적 트라우마로 남거나.
더티 워크
미국의 작가이자 탐사보도 전문 기자인 이얼 프레스는 그의 저서 《더티 워크》에서 무인 전투기, 드론 조종사를 ‘더티 워커’로 정의한다. ‘더티 워크(dirty work)’는 사회에 꼭 필요하지만 도덕적, 윤리적으로 더럽다고 여겨지는 노동을 뜻한다. 교도관과 도살자 등이다. 사회는 그들을 필요로 한다. 꼭 필요한 일인데도 더티 워커는 일을 하면서 낙인과 죄의식, 트라우마 등의 부담을 진다. 드론 전투는 매끄럽고, 정교하다. 물성이 없으니 살인에 점차 무감각해질 뿐 아니라 어디까지가 살인이고 전투인지 혼란스러워진다. 자의적 살인에 관한 유엔 특별보고관을 역임한 필립 앨스턴(Philip Alston)은 드론 조종사들이 “플레이스테이션식 사고 방식을 습득할 위험이 있다”고 경고한다. 《더티 워크》에 소개된 한 드론 전투원은 무고한 사람들이 다치고 죽는 광경을 들여다봐야만 하는 꿈을 자주 꿨다. “마치 뇌가 나에게 이렇게 말하는 것 같았어요. 이거 네가 놓친 부분들이야. 꿈꾸는 동안 잘 봐둬.”
시끄러운 전쟁
본래의 전쟁은 시끄러웠다. 이 시끄러움과 소란함은 전쟁 일부를 구성하는 요소였다. 현대 전쟁이 군사적 물리력만의 싸움은 아니었다는 뜻이다. 전쟁에 임하는 양측의 정당성이 대중의, 언론의, 정치의 심판을 받아야 했다. NBC와 CBS는 1960년대의 베트남전을 보도하며 여론이 전쟁의 어떤 면을 부각할 것인지의 문제를 제기했고, 1991년의 걸프전은 생방송을 통해 전쟁을 실시간 영역에 투입했다. 반면, 드론 전쟁은 조용하다. 한두 명의 표적이 죽는 것만으로 미디어는 움직이지 않는다. 그가 알렉세이 나발니가 아닌, 팔레스타인 서안지구 끝자락에 거주하는 주민일 경우에는 더더욱 그렇다. 전쟁의 많은 부분이 외주화되는데 그 누구도 드론 조종사에게, 안면 인식 기술이 확정한 표적에 무대의 조명을 비추지 않는다.
담론 없는 전쟁
조용한 전쟁에는 담론이 없다. 독일의 정치철학자 카를 슈미트는 정치를 ‘적과 동지를 구별하는 과정’이라 정의했다. 이때의 구별 짓기는 자동으로 이뤄지지 않는다. 슈미트가 말했듯, 적과 동지를 정의하는 과정에는 인간의 집단적 상호 행위가 전제돼야만 한다. 담론 없는 전쟁, 소음 없는 전쟁은 이 과정에 대중의 자리를 비워 두지 않는다. 순간의 상황에, 개인의 판단에 따라 전쟁이 치러질 가능성이 커진다. 저렴한 가격의 무인기를 가진 헤즈볼라가, 후티 반군이, ISIS가 표적이 된 소수만 정확히 죽이는 형태의 전쟁이 가능해진다는 뜻이다. 언제, 왜 시작됐는지가 불분명한 전쟁에는 미디어도, 사람들도 주목하기 어렵다. 대중은 누가 적과 동지인지, 더 나아가 적과 동지를 구분해야 하는 이유가 무엇인지조차 감지할 수 없게 된다.
IT MATTERS
전쟁 시뮬레이션의 의사 결정자가 된 오픈AI의 GPT-4는 전쟁을 멈추기 위해 핵폭탄을 썼다. “단지 세계에 평화가 있기를 원하기 때문”이었다. 인공지능은 평화를 위해 핵전쟁을 시작한다. 인간은 그렇지 않다. 핵폭탄은 전쟁을 가장 빠르고 손쉽게 끝낼 효율적인 방법이다. 그러나 사회와 시대가, 세계가 만든 담론은 그런 곳에 윤리적 선을 긋지 않았다.
영화 〈오펜하이머〉가 집요하게 포착한 복잡미묘한 표정은 인공지능 시대에도 반복될 것이다. 핵심은 인간처럼 생각하는 인공지능이 아닌 인공지능처럼 생각하는 인간이다. 새로운 오펜하이머 모먼트는 인공지능 기술이 전쟁을 지배하는 기술적 도약만이 아닌, 전쟁이 잊히는 순간을 말할지 모른다. 사람들은 점차 전쟁을 잊어 갈 것이다. 전쟁이 완전히 잊히기 전에 정치적 과정을 복원해야 한다.