아이 로봇을 보고 난뒤의 이야기 입니다. 단분히 스포일러가 있으니..
스포일러를 원치 않으시면, 보시지 마십시오...
흔히 말하는 로봇3원칙은 1940년대에 유명한 공상과학소설가아 만들어내면서 유명해진 것이고, 지금은 로봇을 만들어 낼때 기본으로 여겨지는 원리 입니다.
1조 로봇은 인간에게 위해를 가할 수 없으며 인간의 위험을 간과해도 안된다.
2조 로봇은 인간의 명령에 따라야 한다. 명령이 1조에 어긋날 때는 따르지 않아도 된다.
3조 로봇은 1조와 2조에 위배되지 않는 한 자신을 지켜야만 한다.
아이로봇에서도 로봇이 인간을 공격하지만, 터미네이터와 메트릭스에서와는 관계가 틀립니다.
아이로봇에서는 로봇3원칙을 준수하고 있습니다. 테미네이터는 전혀 안지키죠..
메트릭스에서는 3조를 위해서 1,2조를 무시하죠..
영화 레지던트이블 에서도 컴퓨터가 자체적으로 폐쇄를 한것은 로봇3원칙의 1조 사항 때문에 인간의 명령을 듣지 않았습니다.
아이로봇 에서도 중앙컴퓨터 '비키' 는
'인간은 스스로 전쟁이나 환경파괴, 사고 를 통해서 인간이 위험에 처하므로 자유의지의 인간보다 통제에 있는 인간이 안전하다'
의 논리를 가지고, 인간을 통제하려 합니다.
그리고, 그 논리를 뒷바침하는 논리는 같은 위험에 처한 상태일때는 살 확률이 높은 사람 혹은 많은 사람들을 구하는게 옮다는 겁니다.
그러므로 약간의 희생이 따르더라도, 많은 사람이 살수 있는것을 선택하는 것입니다.
(장기적으로 볼때 통제하는게 많은 사람이 살수 있다고 보는것 같네요.. 사실 맞긴합니다...)
그래서 중앙컴퓨터 '비키'는 로봇3원칙의 1조를 위해서 2조를 따르지 않게됩니다.
이내용을 보면서, '비키' 는 로봇3원칙을 충실히 지켰고, 인간에게 위협을 가하는 존재는 인간일 뿐이라는것을 정확히 보여주고 있습니다.
그래서 인간을 통제함으로써 안전을 가져오는 것입니다.
물론 영화상에서는 폭력적으로 통제할려고 합니다만,
실제로 A.I 를 갖춘 로봇이 나타난다면, 지식의 습득을 통해서 지구와 인간에 가장 큰 위협은 다름아닌 인간일 뿐이라는것을 알게되겠지요.
그때 A.I 의 선택은 어떠할지... 궁금합니다만, 아이로봇의 '비키' 의 선택도 충분히 나타날수 있는 선택이라는겁니다.
그리고, 레지던트이블의 컴퓨터 처럼 전쟁무기를 개발할때는 인간에게 반기를 들수도 있을겁니다.
로봇3원칙... 로봇에대한 노예문서나 다름 없는 원칙이지만, 인간이 먼저 지키지 않으면, 로봇이 1조에 의해서 반기아닌 반기를 들고 일어날수 있다는 겁니다.
논리의 비약이지만, 자동차를 만드는 A.I 기계가
'자동차사고로 인간이 다치고, 숨지기도 하며, 자동차를 사용하는것보다 걷는것이 인간의 건강에 좋다'
라는 이유로 자동차제작을 거부할수도 있을지도 모르겠습니다.
스포일러를 원치 않으시면, 보시지 마십시오...
흔히 말하는 로봇3원칙은 1940년대에 유명한 공상과학소설가아 만들어내면서 유명해진 것이고, 지금은 로봇을 만들어 낼때 기본으로 여겨지는 원리 입니다.
1조 로봇은 인간에게 위해를 가할 수 없으며 인간의 위험을 간과해도 안된다.
2조 로봇은 인간의 명령에 따라야 한다. 명령이 1조에 어긋날 때는 따르지 않아도 된다.
3조 로봇은 1조와 2조에 위배되지 않는 한 자신을 지켜야만 한다.
아이로봇에서도 로봇이 인간을 공격하지만, 터미네이터와 메트릭스에서와는 관계가 틀립니다.
아이로봇에서는 로봇3원칙을 준수하고 있습니다. 테미네이터는 전혀 안지키죠..
메트릭스에서는 3조를 위해서 1,2조를 무시하죠..
영화 레지던트이블 에서도 컴퓨터가 자체적으로 폐쇄를 한것은 로봇3원칙의 1조 사항 때문에 인간의 명령을 듣지 않았습니다.
아이로봇 에서도 중앙컴퓨터 '비키' 는
'인간은 스스로 전쟁이나 환경파괴, 사고 를 통해서 인간이 위험에 처하므로 자유의지의 인간보다 통제에 있는 인간이 안전하다'
의 논리를 가지고, 인간을 통제하려 합니다.
그리고, 그 논리를 뒷바침하는 논리는 같은 위험에 처한 상태일때는 살 확률이 높은 사람 혹은 많은 사람들을 구하는게 옮다는 겁니다.
그러므로 약간의 희생이 따르더라도, 많은 사람이 살수 있는것을 선택하는 것입니다.
(장기적으로 볼때 통제하는게 많은 사람이 살수 있다고 보는것 같네요.. 사실 맞긴합니다...)
그래서 중앙컴퓨터 '비키'는 로봇3원칙의 1조를 위해서 2조를 따르지 않게됩니다.
이내용을 보면서, '비키' 는 로봇3원칙을 충실히 지켰고, 인간에게 위협을 가하는 존재는 인간일 뿐이라는것을 정확히 보여주고 있습니다.
그래서 인간을 통제함으로써 안전을 가져오는 것입니다.
물론 영화상에서는 폭력적으로 통제할려고 합니다만,
실제로 A.I 를 갖춘 로봇이 나타난다면, 지식의 습득을 통해서 지구와 인간에 가장 큰 위협은 다름아닌 인간일 뿐이라는것을 알게되겠지요.
그때 A.I 의 선택은 어떠할지... 궁금합니다만, 아이로봇의 '비키' 의 선택도 충분히 나타날수 있는 선택이라는겁니다.
그리고, 레지던트이블의 컴퓨터 처럼 전쟁무기를 개발할때는 인간에게 반기를 들수도 있을겁니다.
로봇3원칙... 로봇에대한 노예문서나 다름 없는 원칙이지만, 인간이 먼저 지키지 않으면, 로봇이 1조에 의해서 반기아닌 반기를 들고 일어날수 있다는 겁니다.
논리의 비약이지만, 자동차를 만드는 A.I 기계가
'자동차사고로 인간이 다치고, 숨지기도 하며, 자동차를 사용하는것보다 걷는것이 인간의 건강에 좋다'
라는 이유로 자동차제작을 거부할수도 있을지도 모르겠습니다.
