위험한 곳부터 로봇을 먼저 들여보낸다. 이 원칙에 반대할 사람은 없다. 그런데 정작 그 로봇이 사고를 내면, 그 책임을 누구에게 물어야 하는지는 아무도 선뜻 답하지 못한다. 위험한 일을 로봇에게 맡기는 것과 그 일의 책임까지 로봇에게 지우는 것은 전혀 다른 문제이기 때문이다. 지금 가장 위험한 현장에서 벌어지는 실험들이 하나같이 같은 지점에서 멈추는 이유도 여기에 있다.
화재 현장 위를 드론이 스스로 날아다니며 판단한다고, 그날 훈련에 참여한 소방관과 시민들은 믿었다. 실제로는 어딘가에서 사람이 조종기로 드론의 모든 움직임을 지시하고 있었다. 그 사실은 실험이 끝날 때까지 아무에게도 알려지지 않았다. 취리히대학교(University of Zurich)가 2025년 발표한 연구는 이 상황을 일부러 만들었다. 연구진은 실제 소방서 두 곳과 함께 화재 진압 훈련을 두 차례 열었고, 소방관 67명과 시민 자원자 28명, 모두 95명이 참여했다. 이 과정에서 드론이 스스로 판단하고 움직이는 것처럼 보이게 했는데, 실제로는 사람이 몰래 조종하고 있었던 것이다. 연구진이 알고 싶었던 것은 드론이 얼마나 똑똑한 지가 아니었다. 드론의 판단으로 문제가 생겼을 때, 사람들이 그 책임을 누구에게 물을 것인가였다.
훈련이 끝난 뒤 연구진은 참가자 모두에게 같은 질문을 던졌다. 드론 때문에 일이 잘못됐다면 누구 책임인가. 전체 응답으로 보면 '잘 모르겠다'는 답이 가장 많았고, 소방관 집단만 놓고 보면 지휘관에게 책임을 묻겠다는 응답이 가장 많았다. 동시에 소방관들 사이에서도 '누구 책임인지 잘 모르겠다'거나 '누구의 책임도 아니다'라고 답한 응답이 눈에 띄게 많았다. 정작 눈여겨볼 부분은 따로 있다. 드론이 사람의 도움 없이 스스로 판단했을 수 있다고 생각한 참가자들조차, 그 책임을 드론에게 돌리지는 않았다. 단 한 명도 그러지 않았다. 드론이 똑똑해질수록 책임질 사람을 찾는 일은 더 쉬워지는 것이 아니라 오히려 더 모호해졌다.
원자력 시설을 해체하는 현장에서도 같은 내용이 확인된다. 맨체스터대학교(The University of Manchester)가 원자력 기업 아멘텀(Amentum)과 함께 2025년 2월 발표한 연구는 방사능이 남아 있는 시설을 해체하는 작업을 다룬다. 이런 시설은 오래돼서 설계도와 실제 내부 모습이 다른 경우가 흔하다. 이 연구가 인용한 2022년 조사에 따르면, 미리 세운 작업 계획과 실제로 해야 할 일 사이의 차이가 최대 세 배까지 벌어졌다. 이 차이를 좁히려면 로봇이 알아서 판단하는 범위를 넓히는 편이 낫다는 것이 연구진의 제안이다. 로봇을 가상현실로 미리 훈련시키고, 위험한 순간에는 로봇이 알아서 피하게 하자는 것이다.
그런데 같은 글에서 연구진은 현실의 벽도 함께 짚는다. 영국을 비롯한 여러 나라의 규정은, 원격으로 로봇을 다루는 사람이 그 로봇을 언제나 완전히 통제할 수 있어야 한다고 정해 놓았다. 로봇이 아무리 똑똑해져도, 문제가 생기면 사람이 즉시 손으로 되돌릴 수 있어야 한다는 조건이 붙는다. 로봇을 현장에 넣기 전 위험 요소를 하나하나 따지는 심사와 서류 작업이 겹겹이 쌓이는 이유도 여기에 있다.
두 현장은 다루는 위험도 다르고 로봇의 형태도 다르다. 그러나 도달한 지점은 같다. 화재 현장은 드론에게 판단을 맡겨보다가 책임질 사람을 찾지 못해 헤맸다. 원자력 해체 현장은 로봇의 판단 범위를 넓히자고 제안하면서도, 사람이 완전히 통제해야 한다는 규정 앞에서 멈춰 섰다. 로봇에게 더 많은 판단을 맡기려는 시도는, 결국 사람이 언제든 끼어들 수 있어야 한다는 자리에서 멈춘다.
필자가 보기에는 이것이 피지컬 AI가 위험한 일터에 들어설 때 가장 먼저 부딪히는 벽이다. 위험한 곳에 로봇을 먼저 보내는 이유는 로봇을 더 믿어서가 아니다. 그 자리에 사람을 둘 수 없어서다. 그런데 그 로봇이 스스로 판단하기 시작하면, 그 판단이 잘못됐을 때 누구 책임인지는 오히려 더 흐려진다. 공장이나 병원 같은 일상의 공간에서는 로봇의 실수가 천천히 드러나고 되돌릴 시간도 있다. 방사능 시설이나 불이 난 건물에는 그런 여유가 없다. 실수를 되돌릴 두 번째 기회가 없는 곳일수록, 사람을 그 자리에 세워 두는 일은 기술이 부족해서가 아니라 반드시 필요한 조건이다.
로봇이 가장 먼저 들어가는 곳은, 사람이 가장 오래 남아야 하는 곳이기도 하다. 위험한 일을 로봇에게 맡기는 것은 기술의 문제이지만, 그 책임을 어디에 둘 것인가는 사람의 문제다. 이 둘을 같은 것으로 착각하는 순간, 가장 위험한 일터는 아무도 책임지지 않는 곳이 되고 만다.
최홍규 연구위원(EBS) / 미디어학 박사
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지