이제 곧 완전 자율주행 자동차의 시대가 다가옵니다
지금까지의 자율주행차는 부분 자율주행이나 조건부 자율주행차, 즉 레벨 2나 레벨 3에 머무르고 있었습니다만, 혼다 자동차는 21년에 세계에서 처음으로 레벨 3의 자율주행차를 대량 생산해, 테슬라도 21년 내에 레벨 5의 자율주행 기술을 완성시킨다는 계획을 발표했습니다.
현대차 역시 2021년까지 스마트시티 내 4단계 수준의 도심형 자율주행 시스템을 상용화하고 2030년까지 완전 자율주행 기술의 상용화를 목표로 하고 있습니다.
현대차의 자율주행이라는 자율주행차 시대가 도래하면서 자율주행차의 트롤리 딜레마가 문제가 되고 있습니다.
예를 들어 자율주행 중 자동차가 운전자의 생명을 위태롭게 한 경우에는 당연히 그것을 피하려고 핸들을 꺾는데, 이 경우 핸들을 꺾는 방향으로 있던 보행자가 있다면 자율주행 시스템은 어느 쪽을 선택해야 할까요?
또 직진하다가는 앞에 있는 대형트럭과 부딪힐 위기에 처해서 왼쪽 또는 오른쪽으로 핸들을 돌려야 하는데 왼쪽에는 아이가, 오른쪽에는 노인이 있다면 어느 방향으로 핸들을 돌려야 할까요?
트롤리 딜레마는 이와 마찬가지로 다수를 구하기 위해 소수를 희생시켜도 되는지를 판별해야 하는 문제 상황을 가리키는 말입니다.트롤리 딜레마 딜레마 문제는 다음과 같습니다.
브레이크가 고장난 기차가 질주하고 있어요.
브레이크가 고장 난 트롤리 전동차인데, 전차(트롤리)가 질주하는 방향의 레일 위에서는 5명의 근로자가 일하고 있지만 열차가 방향을 바꾸지 않고 그대로 달리면 5명의 근로자가 죽습니다.
유일한 방법은 전철의 방향을 바꾸는 것이지만, 다른 방향의 레일 위에서도 한 명의 작업원이 일하고 있습니다. 그래도 기차의 방향을 바꾸시겠습니까?
트롤리 딜레마 트롤리 문제는 영국의 윤리철학자 필리파 푸트가 제안한 것으로 응답자의 89%가 방향을 바꿔야 한다고 답했다고 한다.
요컨대 다섯 명을 살리기 위해 한 명을 죽여도 좋은가 하는 문제가 트롤리의 딜레마인 것입니다.
최대 다수의 행복을 목적으로 하는 공리주의적 관점에서는 당연히 한 명을 희생하더라도 다섯 명을 구해야 하지만 정답은 정해져 있지 않습니다. 정답은 없는 문제죠.
이 트롤리의 딜레마에서 파생되는 문제도 있습니다.
당신은 육교 위에서 기차가 달리는 것을 지켜보고 있습니다. 그런데 이 열차는 역시 브레이크가 고장나 무서운 속도로 달리고 있는데, 달리는 방향의 레일 위에는 5명의 작업자가 일하고 있습니다.
방향을 바꾸는 레일도 없고, 뭔가 무거운 것을 떨어뜨려 전철을 멈추지 않으면 안 됩니다. 그런데 육교 위에는 뚱뚱한 사람이 한 명 있는데 이 사람을 육교 아래로 밀어 떨어뜨렸을 경우에는 열차를 세울 수 있습니다.
이 경우, 당신은 뚱뚱한 사람을 눌러서 5명을 구합니까?
트롤리의 딜레마 파생 문제는 미국 철학자 주디스 톰슨이 트롤리의 딜레마에 이어 추가로 제기한 문제입니다.
기존의 트롤리 딜레마와 마찬가지로 1명을 희생하고 5명을 구하는 것인데, 이 문제에 대해서는 응답자의 78%가 뚱뚱한 사람을 육교 아래로 밀어내지 말아야 한다고 답했다고 합니다.
두 문제의 답변은 정반대지만 공리주의에 따르면 당연히 1명이 희생되어 5명을 구해야 합니다.
하지만 두 질문의 다른 점은 트롤리 딜레마에서 한 사람의 죽음은 행위자의 의도와 상관없이 어쩔 수 없는 결과이지만 파생문제에서는 행위자의 직접적인 행위에 의해 한 사람의 죽음이 발생한다는 점이 다릅니다.
사실 파생문제와 같은 상황이 발생하면 대부분의 사람들은 5명이 죽을 때까지 방치할 가능성이 아주 높습니다.
신경윤리학자 조슈아에 따르면 이는 사람을 직접 죽일 때 사람의 뇌에 대해 강한 부정적 반응이 나타나기 때문이라고 합니다.
이처럼 인간의 경우에도 쉽게 결정할 수 없는 윤리적 선택을 인공지능이 어떻게 해야 하는가 하는 문제가 자율주행차에 남아 있습니다.
즉, 트롤리 딜레마는 자율주행차가 실제 상용화되기 위해서는 기술뿐만 아니라 윤리적 가치까지 판단해야 하는데, 이는 사실상 불가능하기 때문에 무사고에 이를 정도의 기술을 개발하거나 전용차로 등 통제된 환경을 구축하여 변수를 최소화해야 함을 시사하고 있습니다.