트롤리 딜레마
[ Trolley Dilemma ]
윤리학 분야의 사고실험으로, 다섯 사람을 구하기 위해 한 사람을 죽이는 것이 도덕적으로 허용 가능한지에 대한 질문이다.
[네이버 지식백과]
트롤리 딜레마 예
- 기차가 제대로 가면 5명의 작업자가 죽게 되고 노선을 변환시키면 1 사람만 죽게 되는 상황
→ 내가 개입해서 1사람이 죽게 할 것인지 아니면 방관해서 모른 척해서 5명을 죽게 할 건지…
나는 어떤 선택을 하할까? 최선의 선택은?
인공 지능과 트롤리 딜레마
이제 인공지능의 시대는 운전자가 없이 자동차가 자율 운행할 수 있게 되었다. 실제 시범적으로 또는 일부 구간에서는 자율운행 차가 운행 중이다.
이처럼 인공 지능이 발전하면서 자율주행차와 같은 인공 지능 시스템이 트롤리 딜레마와 유사한 상황에 직면할 가능성이 높아지고 있다.
상황 1) 자율주행 차가 주행 중 횡단보도를 건너는 아기와 그 앞의 노인 피하면 차가 전복된다.
→ 어느 방향으로 틀도록 명령을 시켜야 될 건가… 차를 전복시킨다면 탑승한 자율 주행 차의 사람의 생명이…
상황 2) 자율주행차가 급커브를 돌다가 앞에 5명의 사람이 서 있는 것을 발견한다. 자율주행차는 급정거를 해도 사람들을 치일 가능성이 높다. 자율주행차는 방향을 바꿔 1명의 사람을 치는 것을 선택할 수 있다.
이와 같은 돌발 상황에 자율주행차는 어떤 선택을 해야 할까?
인공 지능 시스템의 트롤리 딜레마 해결의 중요성
인공 지능 시스템은 인간과 같은 윤리적 판단 능력을 갖추고 있지 않다. 인공 지능 시스템은 트롤리 딜레마와 같은 상황에서 어떤 선택을 해야 하는지 알 수 없다. 그러므로 인간의 가치관에 따라 프로그래밍되지 않으면 트롤리 딜레마 상황에서 잘못된 선택을 할 가능성이 있다.
인공 지능 시스템의 트롤리 딜레마 해결은 인공 지능 시스템의 안전성과 윤리성을 확보하기 위해 매우 중요하며 인간에게 피해를 주지 않도록 안전장치를 마련하고, 윤리적인 판단을 내릴 수 있도록 교육하는 것이 중요하다.
인공 지능 시스템의 트롤리 딜레마 해결의 어려움
인공 지능과 트롤리 딜레마는 인공 지능 시스템의 윤리적 문제에 대한 중요한 논쟁거리이다.
인공 지능 시스템이 인간의 생명을 판단하는 것은 윤리적으로 옳은지, 인공 지능 시스템은 어떤 기준에 따라 판단해야 하는지, 인간은 인공 지능 시스템의 윤리적 판단에 어떻게 개입해야 하는지 등 다양한 질문들이 제기되며 딜레마 해결에 어려움이 있다.
자율주행차가 사고 상황에서 윤리적 결정을 내리는 방식에 대한 사람들의 관점을 조사하고 분석하기 위해 만들어진 사이트가 있다.
Moral Machine
Moral Machine은 MIT Media Lab의 연구 프로젝트로, 사람들이 자율주행차의 윤리적 딜레마에 대해 어떻게 생각하는지 조사하기 위해 만들어진 온라인 플랫폼이다. 이 플랫폼은 자율주행차가 사고 상황에서 윤리적 결정을 내리는 방식에 대한 사람들의 관점을 조사하고 분석하기 위해 만들어졌다.
모럴 머신에 오신 것을 환영합니다! 무인 자동차와 같은 인공 지능의 윤리적 결정에 대한 사회적 인식을 수집하기 위한 플랫폼입니다.
무인 자동차는 두 명의 탑승자 또는 다섯 명의 보행자를 희생해야 하는 것과 같이 두 가지의 윤리적 선택해야 합니다. 귀하는 외부 관찰자로서 받아들일 수 있는 결과를 판단해야 됩니다.
모럴머신 안내문
위와 같은 모럴 머신의 안내문에서 보듯이 우리는 수많은 상황에서 어쩔 수 없이 자율 주행 차에게 보행자를? 또는 탑승자를? 희생시킴을 결정하게 해야 한다.
Moral Machine 작동 방식
- 사용자는 웹사이트에 접속하여 다양한 사고 상황을 제시받는다.
- 각 상황에서는 자율주행차가 두 가지 선택을 할 수 있다. 예를 들어, 행인을 치거나, 방향을 틀어 다른 사람들을 위험에 빠뜨릴 수 있다.
- 사용자는 어떤 선택이 더 윤리적이라고 생각하는지 선택한다.
- 사용자의 선택은 데이터베이스에 저장되어 분석된다.
Moral Machine의 목적
- 자율주행차가 윤리적 결정을 내리는 방식에 대한 사람들의 관점을 이해하기
- 자율주행차 개발을 위한 윤리적 프레임워크를 개발하는 데 도움이 되는 데이터를 수집하기
- 사람들에게 인공지능의 윤리적 문제에 대해 생각할 기회를 제공하기
내 손으로 누군가는 죽도록 선택해야 한다는 상황이 무척 힘들고 가슴이 무거워지지만 이와 같은 아주 다양하고 광범위한 상황들에 대한 선택은 자율주행차의 윤리적 문제, 나의 도덕적 가치관에 대한 생각하게 하는 과정이었다. 각 상황에 대한 나의 선택은 또한 자율 주행차의 판단의 데이터베이스가 되어 자율 주행차의 판단을 만들어 갈 수 있다.