연구실에서 빅데이터를 분석하고 인공지능(AI) 모델의 예측 정확도를 높이는 알고리즘을 설계할 때, 우리는 이 기술이 인류의 지능을 확장하고 편익을 극대화할 것이라 기대한다. 그러나 고도화된 연산 모델이 군사 작전 및 물리적 전장(戰場)과 결합하는 순간, 기술은 인류를 지키는 도구가 아니라 인간의 존엄성을 가장 정밀하고 신속하게 위협하는 수단으로 변모할 수 있다. 오늘날 AI와 전쟁의 결합은 추상적인 이론의 영역을 넘어, 국경을 불문하고 모든 시민의 일상과 생명권을 직간접적으로 겨누는 실존적 과제로 부상했다.

1. 알고리즘적 표적화와 ‘의미 있는 인간 통제’의 실종

전쟁의 자동화 시도는 과거에도 존재했다. 1960년대 말 베트남전 당시 미군이 시도한 전자 감시망 ‘오퍼레이션 이글루 화이트(Operation Igloo White)’나 1983년 소련 미사일 조기경보 시스템 ‘오코(Oko)’의 인공위성 반사광 오인 사건은 기계적 센서와 연산 시스템의 오류가 얼마나 치명적인 파국을 부를 수 있는지 역사적으로 증명했다.

그러나 오늘날의 딥러닝 AI는 과거의 단순 센서 차원을 완전히 넘어섰다. 최근 주요 분쟁 지역에서 논란이 된 ‘라벤더(Lavender)’와 ‘복음(Habsora)’ 등 AI 기반 표적 추천 보조 시스템의 운용 실태는 이를 단적으로 보여준다. 방대한 통신 및 행동 패턴 데이터를 학습한 알고리즘이 추천한 잠재적 표적에 대해 현장 담당자의 검토가 수십 초 내외의 형식적 절차에 그쳤다는 내부 증언과 언론 보도는 큰 충격을 안겼다.

더욱이 최근에는 전파 방해(Jamming) 환경을 극복하기 위해 온디바이스 컴퓨터 비전 알고리즘을 탑재한 드론이 비전 유도(Terminal Guidance) 방식으로 표적을 추적하는 등 자율성 수준이 급격히 고도화되는 추세다. 군 당국은 시스템이 단순 분석 보조 도구이며 국제법을 준수하고 있다고 설명하지만, 학계와 국제사회는 기술 의존적 ‘자동화 편향(Automation Bias)’이 초래할 민간인 부수적 피해 가능성에 깊은 우려를 표하고 있다.

이는 무력 분쟁 시 민간인과 전투원을 엄격히 구별해야 한다는 국제인도법(IHL)의 구별 및 비례성 원칙과 충돌할 소지가 크다. 치명적 무력 사용 결정권은 기계의 연산이 아닌 인간의 윤리적·법적 판단에 유보되어야 한다는 ‘의미 있는 인간 통제(Meaningful Human Control, MHC)’가 무력화될 때, 오폭 참사의 책임을 누구에게도 물을 수 없는 ‘책임의 공백(Accountability Void)’이 발생하기 때문이다.

2. 일상 데이터의 무기화와 감시 사회의 일상화

현대 AI 전쟁은 전선(Frontline)과 후방, 전투원과 비전투원의 경계를 근본적으로 모호하게 만든다. 제2차 세계대전 당시 전단지와 암호 방송에 머물던 민간 동원은, 오늘날 스마트폰을 매개로 한 실시간 데이터 첩보전으로 진화했다. 우크라이나 전쟁에서 정부가 공공 포털 플랫폼 ‘디야(Diia)’와 연계된 텔레그램 챗봇 ‘e-Enemy(e-Voroh)’를 통해 시민들로부터 적군 이동 경로를 실시간 제보받은 사례나, 상용 안면인식 기술인 ‘클리어뷰 AI(Clearview AI)’가 전선에 지원되어 신원 확인 및 보안 검색에 대규모로 활용된 사례가 대표적이다.

스마트폰을 통한 일상적 데이터 수집과 제보는 시민사회에 중대한 법적 딜레마를 안긴다. 국제적십자위원회(ICRC)의 지침에 따르면, 민간인이 전술적 군사 좌표를 실시간 제공하는 행위는 ‘적대행위 직접 참여(Direct Participation in Hostilities, DPH)’로 해석될 소지가 있어, 국제법상 민간인으로서 누려야 할 면책 보호 지위를 위태롭게 하고 합법적 공격 표적이 될 법적 위험에 노출될 수 있다.

나아가 전시 안보를 명분으로 일상화된 안면인식, 위치 추적, 메타데이터 수집 체계는 분쟁 종식 후에도 완전히 철회되지 않고 민간을 통제하는 감시 인프라로 고착화될 위험이 상존한다. 시민의 일상 데이터가 안보 논리로 전용되는 순간, 민주주의의 토대인 프라이버시와 데이터 주권(Data Sovereignty)은 돌이키기 어려운 훼손을 입게 된다.

3. 생성형 AI 인지전과 민주적 공론장의 해체

전쟁의 전선은 이제 물리적 공간을 넘어 시민의 인지와 신념을 겨냥하는 ‘인지전(Cognitive Warfare)’으로 확장되었다. 과거 냉전기 라디오 방송과 삐라를 통한 심리전이 현대에 이르러 정밀하게 설계된 알고리즘 여론 조작으로 진화한 것이다. 2022년 전쟁 초기 우크라이나 대통령의 항복 선언을 모방한 딥페이크 영상 유포 사건에 이어, 최근에는 실시간 다국어 생성 LLM과 맞춤형 봇네트를 결합한 여론 교란 심리전이 글로벌 주요 분쟁과 선거 국면에서 일상화되고 있다.

초현실적인 조작 정보가 범람하면 시민들은 무엇이 진실인지 분별을 포기하는 ‘인식적 무기력’에 빠지기 쉽다. 위르겐 하버마스(Jürgen Habermas)가 강조했던 사실에 기반한 합리적 소통과 민주적 숙의의 공론장이 흔들리는 것이다. 공론장이 마비된 사회는 외부의 알고리즘적 여론 공작에 무방비로 노출될 수밖에 없다.

알고리즘 전장에서 인간의 존엄을 지키는 길

기사 바로가기 > https://injurytime.kr/View.aspx?No=4188572