‘AI 로봇’ 사고는 누구 책임?… EU ‘로봇 인격’ 부여 놓고 논쟁 격화

자율주행차나 인공지능(AI) 로봇의 실수로 사람이 다치면 법적 책임은 누가 져야 할까. 제조회사 책임일까, 소유주 책임일까.

유럽에서 로봇의 법적 책임을 놓고 거센 논쟁이 벌어지고 있다. 유럽의회는 지난 2월 AI 로봇이 스스로 판단을 내릴 능력을 갖추고, 그 판단에 대한 알고리즘(문제해결 절차나 방법)이 인간은 파악하기 어려운 수준까지 발전하면 로봇에 책임을 물을 수밖에 없다는 결의안을 통과시켰다. 이 결의안은 AI 로봇의 법적 지위를 ‘전자인간(electronic personhood)’으로 인정하고 있다. 로봇에 의한 생명 위협과 재산 손실의 책임을 로봇 자체에 묻겠다는 의미다.

하지만 AI 로봇·법학·윤리 전문가 162명은 12일(현지시간) 유럽연합 집행위원회(EC)에 공개서한을 보내 “로봇에 법적 지위를 부여하는 것은 부적절하다”며 유럽의회 결의안에 반기를 들었다. AI 로봇 제조사들이 법적 책임에서 벗어나려는 술책에 지나지 않는다는 이유에서다. EC는 이달 유럽의회가 제출한 결의안에 대한 의견을 내놓을 예정이다.

◆ AI 로봇의 과실은 누구 책임일까

미국 정치전문매체 폴리티코는 “인간에 가까운 로봇은 수십 년 후에나 나타나겠지만 유럽의회와 법학전문가, 로봇 제조사 등은 벌써 로봇 인격에 대해 치열한 논쟁을 벌이고 있다”고 보도했다. 어떤 결론이 나오느냐에 따라 사고 발생 때 책임 소재가 달라질 수밖에 없다.

AI가 속속 상용화하면서 법적 다툼이 벌어질 소지도 커지고 있다. 지난달 미국 전기차 제조업체 테슬라의 ‘모델X’ 운전자 사망사고 당시 자율주행 모드가 작동하고 있었다는 사실이 밝혀지면서 제조회사와 운전자 간 책임 공방이 치열하다.

유럽의회와 로봇 제조업체 등은 로봇에 인격을 부여해 책임을 물을 수 있다고 주장했다. 기업에 법인격을 부여해 권리와 책임을 지우는 것과 같은 이치라고 설명했다.

메디 델보 유럽의회 조사위원은 “유럽연합(EU)은 AI 로봇을 전자인간으로 규정해 로봇은 인간에게 도움을 주는 존재라는 점을 명확히 하고 이를 위한 탄탄한 법적 근거를 마련할 필요가 있다”고 주장했다. 프로그램 오류나 해킹 등 비상 상황에선 로봇을 즉각 멈출 수 있는 ‘킬 스위치’를 장착하도록 하고, 정부가 유사시 시스템 코드에 접근할 권한을 가져야 한다는 내용이 유럽의회 결의안에 담겼다. 또 로봇 등록을 의무화하기 위한 규정도 마련했다.

이 같은 로봇법이 제정될지는 EC 결정에 달렸다. 유럽의회 결의안은 EC에 대한 권고이기 때문이다. EC가 반드시 따라야 할 의무는 없지만 받아들이지 않으면 이유를 제시해야 한다. CNN 등 외신에 따르면 EC는 유럽의회 결의안을 검토한 뒤 ‘로봇시민법’ 초안을 이달 공개할 예정이다.

◆ “책임논쟁 앞으로 더 격렬해질 것”

노엘 샤키 영국 셰필드대 로봇인공지능학과 교수 등 162명의 전문가는 “유럽의회의 이번 결의안은 로봇 제조업체들이 책임에서 벗어나려는 꼼수”라고 강도 높게 비판했다. 로봇에 법인격을 부여함으로써 제조업체, 프로그래머, 소유주 등이 법적 책임에서 빠져나갈 여지가 생긴다는 주장이다.

폴리티코는 “로봇 시장이 급격히 커지는 만큼 이 같은 논쟁은 더욱 격렬해질 것”으로 내다봤다. 국제로봇연맹에 따르면 로봇청소기 등 개인서비스 로봇 시장은 2018년 54억달러(약 5조8000억원) 규모에서 2023년 149억달러 시장으로 커질 전망이다. 산업용 로봇은 2020년 400억달러 규모로 확대될 것으로 예상됐다.

로봇에 인격을 부여하려는 움직임에 비판적인 이들은 유럽의회 결의안이 AI 로봇의 능력에 대한 오해를 불러올지 모른다고 비판했다. 유럽의회 결의안에 담긴 ‘자율적이고, 예측 불가능하고, 스스로 학습하는 전자인간’이란 표현은 로봇의 실제 능력을 과장한 것이라고 꼬집었다. 로봇에 윤리를 학습시켜야 한다는 것 역시 현실성이 없다며 ‘로봇윤리’ 대신 로봇을 제조하고 사용하는 인간의 윤리가 더 중요하다고 강조했다.