인공지능(AI)의 의료적용, 구체적인 법적 쟁점들

법무법인 세승

정혜승 변호사

각종 생활 영역에 인공지능이 도입되며 모두가 가장 먼저 떠올리는 법적 쟁점은 인공지능을 이용한 행위로 인하여 악결과가 발생하였을 때 누가 책임을 지는지의 문제이다. 자율주행자동차의 발전과 관련하여 법학자들 사이에서는 이미 인공지능의 법적 지위, 인공지능의 법적 실체, 책임 등에 대한 논의가 어느 정도 이루어지고 있기도 하다. 다음에서는 의료 분야에서 특히 문제가 될 수 있는 쟁점들을 짚어보기로 한다.

AI가 의사인가? - 의사 면허 논란

만약 인공지능이 완벽에 가까울 정도로 발전한다고 가정해보자. 그렇다면 과연 의사라는 존재를 배제할 수 있을까? 국가가 전문직에 대한 자격시험을 마련하고 그 기준을 통과한 사람에게 면허를 부여하는 것은 그 사람을 인정할 뿐 아니라 자격에 따른 책임을 지게 하여 환자를 보호하기 위함이다. 그렇기 때문에 의사 면허 없는 자가 의료행위를 하면 그 사람이 아무리 의사보다 뛰어난 의학적 지식과 경험을 가지고 있고 그 결과 역시 훌륭하다 하더라도 의료법 위반으로 처벌하는 것이다. 그렇다면 인공지능에게도 독자적인 진단 권한을 부여할 수 있을까? 만약 명목상으로는 의사가 진단을 하더라도 그 판단이 전적으로 인공지능의 의견에 따른 것이라면 과연 그 진단은 누구의 진단일까? 만약 인공지능이 전적으로 판단한 결과 악결과에 이르게 된다면 인공지능에게 책임을 지울 수 있는 것일까?

아무리 인공지능에 의존한 진단을 하더라도 악결과에 대한 피해자 보호 차원에서도 최종 판단에 대한 책임은 인간인 의사가 지게 될 가능성이 높다. 만약 인공지능 자체의 오류가 있다면 제작자도 그 책임을 나누어야 할 것이다. 인공지능 자체가 절대 의사와 동일할 수 없으며 어디까지나 진단을 위한 참고수단임을 전제로 인공지능 시대를 맞이하여야 한다.

AI의 의견에 따른 판단을 어떻게 검증할 것인가?

의료행위로 인한 악결과가 발생한 경우, 해당 의료행위에 과실이 있는지 여부는 진료기록과 환자 상태를 토대로 다른 의료인이 감정한 결과를 토대로 이루어진다. 그러나 진단을 위한 의사결정 과정에 인공지능이 끼어들 경우 새로운 문제들이 발생한다.

- 인공지능 판단의 기초가 된 정보는 적법하게 수집되었는가?

인공지능의 판단이 정확해지기 위해서는 많은 정보의 수집이 선행되어야 한다. 그렇다면 정보는 어떻게 수집하는 것일까? 우리나라의 경우 환자의 건강정보는 민감정보로 분류되어 환자가 사용 목적에 관하여 구체적으로 동의하지 않으면 사용이 불가하다. 물론 정보를 비식별화 하여 활용할 수 있는 가이드라인이 등장하기는 하였으나 인공지능 판단의 근거가 된 정보들이 과연 적법하게 수집되었는지는 확인하기 매우 어렵다. 인공지능을 개발하는 회사들은 더 많은 정보 수집에 촉각을 기울일 수밖에 없다. 이미 영국은 공공병원을 이용한 환자 160만명의 신상정보 등을 구글에 넘겨주는 계약을 체결하여 문제된바 있다. 의료의 발전을 위한다는 목적만 있다면 다소 정보 수집 과정이 불법해도 괜찮은 것일까?

- 정보들은 적절히 선정되어 처리되었는가? 인공지능의 블랙박스성

일단 정보를 수집하였다 하더라도 어떤 정보가 인공지능 판단에 필요한지, 어떤 정보가 판단에 방해가 되는지를 누가 어떻게 선별할 것인가? 그 선별 과정이 적절하였다는 점은 누가 설명해줄 것인가? 선별된 정보들의 처리는 적절히 이루어졌는가? 특히 딥러닝 방식의 경우, 인공지능이 결론에 이르기까지 어떠한 것에 주목하여 어떻게 분석하는 과정을 거쳤는지 인간이 알 수 없다는 문제도 있다. 결국 인공지능을 통한 진단이 적절한지를 판단하기 위해서는 이 모든 인공지능의 정보 선택 및 처리 과정이 적절했는지를 판단해야 할 것인데 과연 이것을 누가 어떻게 판단할 것인가? 인공지능을 이용한 진단의 적절성 여부가 재판상 과실판단의 쟁점이 된다면 어떠한 감정 시스템으로 인공지능을 평가해야 하는지가 문제될 것이다.

AI의 의견에 따른 판단에 건강보험 비용을 지불할 것인가?

우리나라 건강보험 체계 하에서는 건강보험에 편입되기 전에는 환자에게도 그 비용을 부담시키기 곤란하다. 그렇다면 인공지능의 판단에도 건강보험의 비용을 지불할 수 있을까?

- 근거중심의학, 적정진료, 전국민 건강 증진에 기초한 건강보험

1980년대 말부터 근거중심의학이 의학계의 주류를 이루어왔다. 우리나라 건강보험제도 역시 근거중심 의학에 기초하고 있다. 그러나 인공지능을 통한 진단은 근거중심의료와도 충돌하는 면이 있다. 게다가 우리나라 건강보험제도는 ‘최선의 진료’에 비용을 지불하는 것이 아니고 ‘적정한 진료’에 비용을 지불한다. 그렇다면 인공지능을 통한 진단이 ‘적정한 진료’라는 건강보험의 이념에 부합하는 것일까? 이를 통하여 전 국민 건강의 보편적 증진에 얼마나 도움이 될 수 있을까?

- 건강보험 비용을 지급할 만큼의 근거가 있는가?

국가 또는 공보험이 비용을 지급하기 위해서는 해당 인공지능에 공신력이 있어야 할 것이다. 그러나 과연 ‘어느’ 인공지능에게 보험 비용을 지급할 것인가? 인간인 의사는 어느 의료기관에 속하든 의학적 근거에 따라 진료한다. 그러나 인공지능은 수집된 정보를 토대로 각 인공지능이 지닌 정보처리과정에 따라 분석하여 결론을 내놓는다. 즉, 의사로 치자면 어디에 소속되어 있는지에 따라 다른 결론을 내놓을 가능성도 있는 것이다. 그리고 인공지능을 개발한 주체에 따라 수집된 정보의 양, 정보처리방식이 다를 수 있다. 인류 전체의 건강 증진을 위해서라면 모든 정보를 한 군데 모아 각자가 가진 최고의 기술을 결합한 인공지능을 개발하여 활용하여야 할 것이다. 그러나 이것이 실현될 리는 만무하다. 그렇다면 경쟁적 관계에 있는 인공지능들 중 어느 것이 뛰어나다고 판단할 수 있을까? 혹시라도 정보의 우위에 있는 인공지능이 정보 처리 과정을 왜곡할 가능성은 없을까?

인공지능은 의료의 대안이 될 수 있는가?

이처럼 인공지능은 결코 의사를 대체하기 어려울 뿐 아니라 그 태생적 한계, 오직 수집된 정보에 기초하여 판단한다는 점 때문에 누구나 수긍할 수 있는 보편적 판단을 내리기도 어려울 것이다. 또한 해결하기 복잡한 법적 쟁점들도 지니고 있다. 인공지능의 발전으로 인류가 조금이라도 더 건강하게 살 수 있다면 당연히 이 개발에도 힘써야 할 것이나 한계 역시 명확히 인식하여야 할 것이다.