군대는 전략이나 판단을 위해 AI에 의존할 수 없다는 연구 제안

군대는 전략이나 판단을 위해 AI에 의존할 수 없다는 연구 제안
날짜:
2022년 6월 14일
원천:
조지아 공과대학
요약:
전쟁에 인공 지능(AI)을 사용하는 것은 수년간 공상 과학 소설과 정치가의 약속이었지만 새로운 연구에서는 자동화할 수 있는 부분이 많지 않고 인간 판단의 가치를 보여주고 있다고 주장합니다.

전쟁에 인공 지능(AI)을 사용하는 것은 수년간 공상 과학과 정치인의 약속이었지만 조지아 공과 대학의 새로운 연구에 따르면 자동화될 수 있는 부분은 많지 않으며 인간 판단의 가치를 보여줍니다.

"AI의 모든 어려운 문제는 실제로 판단과 데이터 문제이며, 흥미로운 점은 전쟁에 대해 생각하기 시작할 때 어려운 문제는 전략과 불확실성, 또는 잘 알려진 전쟁의 안개입니다."라고 말했습니다. 사이버 보안 및 개인 정보 보호 학교와 Sam Nunn 국제 문제 학교의 부교수인 Jon Lindsay는 다음과 같이 말했습니다. "당신은 믿을 수 없을 정도로 혼란스럽고 혼란스럽고 무서운 상황에서 인간의 감각 형성과 도덕적, 윤리적, 지적 결정을 내릴 필요가 있습니다."

AI 의사 결정은 상황에 대한 데이터, 해당 데이터(또는 예측)의 해석, 목표 및 가치(또는 판단)에 따라 행동하는 가장 좋은 방법 결정, 행동이라는 네 가지 주요 구성 요소를 기반으로 합니다. 머신 러닝의 발전으로 예측이 쉬워져 데이터와 판단의 가치가 더욱 높아졌습니다. AI가 상업에서 운송에 이르기까지 모든 것을 자동화할 수 있지만 판단은 인간이 개입해야 하는 곳입니다. Lindsay와 토론토 대학의 Avi Goldfarb 교수 는 International 에 게재된 "예측과 판단: 왜 인공 지능이 전쟁 에서 인간의 중요성을 증가시키는가"라는 논문에서 썼습니다. 보안 .

많은 정책 입안자들은 인간 병사가 자동화된 시스템으로 대체될 수 있다고 가정하여 이상적으로는 군대가 인간 노동에 덜 의존하고 전장에서 더 효과적일 수 있다고 가정합니다. 이를 인공지능의 대체이론이라고 하는데, 린제이와 골드파브는 인공지능이 대체재가 아니라 기존 인간 전략의 보완재로 봐야 한다고 주장한다.

그는 “기계는 예측은 잘하지만 데이터와 판단력에 의존하고, 전쟁에서 가장 어려운 문제는 정보와 전략”이라고 말했다. "AI가 상거래에서 작동하게 하는 조건은 예측할 수 없기 때문에 군사 환경에서 가장 충족하기 어려운 조건입니다."

Lindsay와 Goldfarb가 강조한 사례는 자율 운전 트럭을 사용하여 자재를 운송하여 인간 운전자의 비용과 위험을 줄이는 Rio Tinto 광산 회사입니다. 도로 폐쇄나 장애물이 없는 한 사람의 개입이 거의 필요하지 않은 풍부하고 예측 가능하며 편향되지 않은 데이터 트래픽 패턴과 지도가 있습니다.

그러나 전쟁은 일반적으로 편견 없는 데이터가 풍부하지 않고 목표와 가치에 대한 판단이 본질적으로 논란의 여지가 있지만 그것이 불가능하다는 것을 의미하지는 않습니다. 연구원들은 AI가 작업별로 관료적으로 안정화된 환경에서 가장 잘 활용될 것이라고 주장합니다.

Lindsay는 "모든 흥분과 두려움은 킬러 로봇과 치명적인 차량에 대한 것이지만 실제로 군사 AI의 최악의 경우는 창의성과 해석에 실제로 의존하는 고전적인 군사주의적 문제가 될 것"이라고 말했습니다. "하지만 우리가 봐야 할 것은 인사 시스템, 관리, 물류 및 수리입니다."

연구원들에 따르면 군대와 적군 모두에게 AI를 사용하는 데 따른 결과도 있습니다. 인간이 전쟁에서 AI를 사용할 시기를 결정하는 핵심 요소라면 데이터 시스템을 설계 및 정리하고 정책 결정을 내리는 사람에 따라 군사 리더십 구조와 계층이 바뀔 수 있습니다. 이것은 또한 적들이 전쟁의 궤적에 큰 영향을 미치기 때문에 데이터와 판단을 모두 타협하는 것을 목표로 한다는 것을 의미합니다. AI와 경쟁하면 적들이 데이터를 조작하거나 방해하여 건전한 판단을 더욱 어렵게 만들 수 있습니다. 사실상 인간의 개입이 훨씬 더 필요할 것입니다.

그러나 이것은 논쟁과 혁신의 시작에 불과합니다.

"AI가 예측을 자동화한다면 판단과 데이터가 정말 중요해집니다."라고 Lindsay는 말했습니다. "우리는 이미 기계화 부대와 정밀 무기로 많은 군사 행동을 자동화했고, 지능 위성과 센서로 데이터 수집을 자동화했으며, 이제는 AI로 예측을 자동화하고 있습니다. 그래서 언제 판단을 자동화하거나, 아니면 자동화할 수 없는 판단 요소가 있습니까?"

그러나 그때까지는 인간의 전술적, 전략적 의사결정이 전쟁의 가장 중요한 측면으로 남아 있습니다.