로봇의 영역이 인간의 정신적, 감정적 노동까지 대신하는 지능형 로봇으로 진화하면서 인간과 로봇 관계에서 발생할 수 있는 '로봇윤리'가 중요한 이슈로 떠오르고 있다. 본 연구는 포스트휴먼 시대에 필요한 인간과 로봇의 윤리 성찰을 고찰하고자 하며, 그 중심 내용은 다음과 같다. 첫째, 로봇의 윤리적 실천 가능성에 도전하는 윤리 소프트웨어 개발 사례를 통해 오로지 강제 입력된 윤리 코드만으로 로봇이 과연 옳고 그름을 판단할 수 있는가라는 문제의식에서 출발한다. 둘째, 로봇윤리는 인간의 편향성이 내재된 데이터를 학습했을 때 발생할 수 있는 비윤리적 문제들을 고려하고, 더불어 국가와 문화 간의 윤리적 상대주의를 인정해야 한다. 셋째, 로봇윤리는 로봇을 위한 윤리 강령만이 아니라, 인간과 로봇이 서로 공진화할 수 있는 새로운 개념의 '인간 윤리'가 전제되어야 한다.
로봇의 영역이 인간의 정신적, 감정적 노동까지 대신하는 지능형 로봇으로 진화하면서 인간과 로봇 관계에서 발생할 수 있는 '로봇윤리'가 중요한 이슈로 떠오르고 있다. 본 연구는 포스트휴먼 시대에 필요한 인간과 로봇의 윤리 성찰을 고찰하고자 하며, 그 중심 내용은 다음과 같다. 첫째, 로봇의 윤리적 실천 가능성에 도전하는 윤리 소프트웨어 개발 사례를 통해 오로지 강제 입력된 윤리 코드만으로 로봇이 과연 옳고 그름을 판단할 수 있는가라는 문제의식에서 출발한다. 둘째, 로봇윤리는 인간의 편향성이 내재된 데이터를 학습했을 때 발생할 수 있는 비윤리적 문제들을 고려하고, 더불어 국가와 문화 간의 윤리적 상대주의를 인정해야 한다. 셋째, 로봇윤리는 로봇을 위한 윤리 강령만이 아니라, 인간과 로봇이 서로 공진화할 수 있는 새로운 개념의 '인간 윤리'가 전제되어야 한다.
As the field of robots is evolving to intelligent robots that can replace even humans' mental or emotional labor, 'robot ethics' needed in relationship between humans and robots is becoming a crucial issue these days. The purpose of this study is to consider the ethics of robots and humans that is e...
As the field of robots is evolving to intelligent robots that can replace even humans' mental or emotional labor, 'robot ethics' needed in relationship between humans and robots is becoming a crucial issue these days. The purpose of this study is to consider the ethics of robots and humans that is essential in this post-human age. It will deal with the followings as the main contents. First, with the cases of developing ethics software intended to make robots practice ethics, the authors begin this research being conscious about the matter of whether robots can really judge what is right or wrong only with the ethics codes entered forcibly. Second, regarding robot ethics, we should consider unethicality that might arise from learning data internalizing human biasness and also reflect ethical differences between countries or between cultures, that is, ethical relativism. Third, robot ethics should not be just about ethics codes intended for robots but reflect the new concept of 'human ethics' that allows humans and robots to coevolve.
As the field of robots is evolving to intelligent robots that can replace even humans' mental or emotional labor, 'robot ethics' needed in relationship between humans and robots is becoming a crucial issue these days. The purpose of this study is to consider the ethics of robots and humans that is essential in this post-human age. It will deal with the followings as the main contents. First, with the cases of developing ethics software intended to make robots practice ethics, the authors begin this research being conscious about the matter of whether robots can really judge what is right or wrong only with the ethics codes entered forcibly. Second, regarding robot ethics, we should consider unethicality that might arise from learning data internalizing human biasness and also reflect ethical differences between countries or between cultures, that is, ethical relativism. Third, robot ethics should not be just about ethics codes intended for robots but reflect the new concept of 'human ethics' that allows humans and robots to coevolve.
* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.
문제 정의
그렇다면 로봇은 어떻게 윤리를 학습하고 실천할 수 있을까? 다시 말해서 로봇에게 인간의 도덕적 인성에 기초한 ‘윤리’를 ‘교육’시키고 ‘공유’하도록 하는 것이 가능한 가? 만약 로봇이 프로그래밍 된 윤리적 지침에 따라 행동한다 하더라도 그 행동의 결과가 인간에게 해가 될 가능성은 없는가? 만일 해가 된다면 그 책임을 누구에 게 돌려야 하는가? 그리고 로봇을 포함한 모든 지능적 기계의 윤리와 인간의 윤리가 충돌했을 때 어떻게 해결해야 할 것인가? 이처럼 로봇윤리는 인간의 삶과 관련 한 긴박하고 중요한 질문으로 이어지게 된다. 본 논문은 바로 이 일련의 질문들에 대한 고민을 통해 현대 기술 시대에 필요한 인간과 로봇의 윤리가 무엇인지를 성찰하는 것을 목적으로 한다. 본 논문의 구성은 다음과 같다.
성능/효과
VI. 결론 : 로봇은 인간을 닮아간다
첫째, 현대 기술은 그 변화 속도와 규모가 너무 크기 때문에 그 결과를 예측하기 힘들며, 설령 선하고 정당한 목적을 위해 사용하더라도 장기간에 걸쳐 사용할 경우 위협적인 요소가 들어있다. 둘째, 목적에 대한 더 나은 만족을 위해 새로운 기술을 양산하는 것이 아니라, 거꾸로 새로운 기술이 새로운 목적을 부여하거나 그것을 강요할 수도 있다. 따라서 기술의 진보는 우리의 의지에 의해 선택할 수 있는 것이 아니라 현대 기술 자체 안에 자리 잡고 있는 동인으로서 우리의 의지 너머에서 작용하고 있다는 것을 세 번째 특징으로 지적한다[1].
질의응답
핵심어
질문
논문에서 추출한 답변
로봇윤리란 무엇인가?
한 작가의 상상력에서 만들어진 로봇 3원칙은 그 한 계점에도 불구하고 2002년 로봇공학자 지안마르코 베 루지오(Gianmarco Veruggio)가 ‘로봇윤리(roboethics)’ 라는 용어를 처음 사용하면서 현실화되기 시작했다. 베루지오는 로봇윤리란 “로봇공학이 인간의 삶에 적용될 때 나타날 수 있는 윤리적 문제를 다루는 것이며, 로봇 기술의 긍정적 확산을 위해 우리가 지금 무엇을 해야 하는지 논의하는 것[6]”이라고 정의하였다. 그리고 유럽연합이 명시한 전자인간으로서의 로봇이 지켜야 할 윤리의무는 바로 아시모프의 ‘로봇의 3원칙’을 바탕으로 만들어졌다.
미래 인간을 지칭하는 용어는 무엇이 있는가?
그렇다면 아시모프의 3원칙은 현실에서 실현될 수 있 을까? 과학기술이 무서운 속도로 발전됨에 따라 전통적인 ‘인간’ 개념이 해체되고, 미래 인간을 지칭하는 다양한 용어들이 등장하기 시작했다. 트랜스 휴먼(Trans Human), 네오 휴먼(Neo Human), 그리고 포스트 휴먼 (Post Human)등이 바로 그것이다. 이 용어들은 모두 인간의 생물학적 육체와 정신의 한계를 뛰어넘는 인간 이후의 인간’ 혹은 ‘인간을 벗어난 인간’을 의미한다.
로봇윤리의 역할은 무엇인가?
로봇의 판단이 인간의 생사에 영향을 끼칠 수 있는 상황이 되면서 로봇의 모든 판단과 결정 에는 윤리적 요소가 들어갈 수밖에 없다. 로봇윤리는 로봇이 인간의 통제를 벗어날 경우 일어날지도 모르는 재앙을 예방하기 위한 수단으로, 그리고 인간과 로봇 간의 관계에서 발생할 수 있는 수많은 윤리적 문제들을 해결하기 위한 지침서로서의 역할을 수행한다. 그렇다면 로봇은 어떻게 윤리를 학습하고 실천할 수 있을까? 다시 말해서 로봇에게 인간의 도덕적 인성에 기초한 ‘윤리’를 ‘교육’시키고 ‘공유’하도록 하는 것이 가능한 가? 만약 로봇이 프로그래밍 된 윤리적 지침에 따라 행 동한다 하더라도 그 행동의 결과가 인간에게 해가 될 가능성은 없는가? 만일 해가 된다면 그 책임을 누구에 게 돌려야 하는가? 그리고 로봇을 포함한 모든 지능적 기계의 윤리와 인간의 윤리가 충돌했을 때 어떻게 해결 해야 할 것인가? 이처럼 로봇윤리는 인간의 삶과 관련 한 긴박하고 중요한 질문으로 이어지게 된다.
A. Caliskan, J. J. Bryson, and A. Narayanan, "Semantics derived automatically from language corpora contain human-like biases," Science, Vo.356, No.6334, pp.183-186, 2017.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.