연합인증

연합인증 가입 기관의 연구자들은 소속기관의 인증정보(ID와 암호)를 이용해 다른 대학, 연구기관, 서비스 공급자의 다양한 온라인 자원과 연구 데이터를 이용할 수 있습니다.

이는 여행자가 자국에서 발행 받은 여권으로 세계 각국을 자유롭게 여행할 수 있는 것과 같습니다.

연합인증으로 이용이 가능한 서비스는 NTIS, DataON, Edison, Kafe, Webinar 등이 있습니다.

한번의 인증절차만으로 연합인증 가입 서비스에 추가 로그인 없이 이용이 가능합니다.

다만, 연합인증을 위해서는 최초 1회만 인증 절차가 필요합니다. (회원이 아닐 경우 회원 가입이 필요합니다.)

연합인증 절차는 다음과 같습니다.

최초이용시에는
ScienceON에 로그인 → 연합인증 서비스 접속 → 로그인 (본인 확인 또는 회원가입) → 서비스 이용

그 이후에는
ScienceON 로그인 → 연합인증 서비스 접속 → 서비스 이용

연합인증을 활용하시면 KISTI가 제공하는 다양한 서비스를 편리하게 이용하실 수 있습니다.

ScienceON TREND 최신 과학기술 트렌드와 토픽에 대한 ScienceON 연관 콘텐츠 및 내외부 지식인프라 콘텐츠를 한 번에 볼 수 있는 서비스입니다. 목록

AI 윤리 대표이미지

키워드 정의키워드 정의* Wikipedia, Google에서 수집한 이슈 키워드 정의 정보입니다.

인공 지능의 윤리는 인공 지능 시스템에 특정한 기술 윤리의 한 분야다 . 기계 윤리 에서는 인간이 인공지능 시스템을 설계, 제작, 사용, 취급함에 있어 도덕적 행동에 대한 관심과 기계의 행동에 대한 관심으로 나누어지기도 한다 . 초지능 AI로 인한 특이점 문제도 포함된다 .

출처 : https://en.wikipedia.org/wiki/Ethics_of_artificial_intelligence

워드 클라우드워드 클라우드* ScienceON에서 논문 데이터에서 추출한 관련 키워드 클라우드입니다.

요약정보요약정보* 웹에서 수집한 요약 정보입니다.

인공지능 윤리기준: 3대 기본원칙

① 인간 존엄성 원칙 - 인간은 신체와 이성이 있는 생명체로 인공지능을 포함하여 인간을 위해 개발된 기계제품과는 교환 불가능한 가치가 있다. - 인공지능은 인간의 생명은 물론 정신적 및 신체적 건강에 해가 되지 않는 범위에서 개발 및 활용되어야 한다. - 인공지능 개발 및 활용은 안전성과 견고성을 갖추어 인간에게 해가 되지 않도록 해야 한다. ② 사회의 공공선 원칙 - 공동체로서 사회는 가능한 한 많은 사람의 안녕과 행복이라는 가치를 추구한다. - 인공지능은 지능정보사회에서 소외되기 쉬운 사회적 약자와 취약 계층의 접근성을 보장하도록 개발 및 활용되어야 한다. - 공익 증진을 위한 인공지능 개발 및 활용은 사회적, 국가적, 나아가 글로벌 관점에서 인류의 보편적 복지를 향상시킬 수 있어야 한다. ③ 기술의 합목적성 원칙 - 인공지능 기술은 인류의 삶에 필요한 도구라는 목적과 의도에 부합되게 개발 및 활용되어야 하며 그 과정도 윤리적이어야 한다. - 인류의 삶과 번영을 위한 인공지능 개발 및 활용을 장려하여 진흥해야 한다.

출처 : https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=112&mId=113&bbsSeqNo=94&nttSeqNo=3179742

인공지능 윤리기준: 10대 핵심요건

① 인권보장 - 인공지능의 개발과 활용은 모든 인간에게 동등하게 부여된 권리를 존중하고, 다양한 민주적 가치와 국제 인권법 등에 명시된 권리를 보장하여야 한다. - 인공지능의 개발과 활용은 인간의 권리와 자유를 침해해서는 안 된다. ② 프라이버시 보호 - 인공지능을 개발하고 활용하는 전 과정에서 개인의 프라이버시를 보호해야 한다. - 인공지능 전 생애주기에 걸쳐 개인 정보의 오용을 최소화하도록 노력해야 한다. ③ 다양성 존중 - 인공지능 개발 및 활용 전 단계에서 사용자의 다양성과 대표성을 반영해야 하며, 성별·연령·장애·지역·인종·종교·국가 등 개인 특성에 따른 편향과 차별을 최소화하고, 상용화된 인공지능은 모든 사람에게 공정하게 적용되어야 한다. - 사회적 약자 및 취약 계층의 인공지능 기술 및 서비스에 대한 접근성을 보장하고, 인공지능이 주는 혜택은 특정 집단이 아닌 모든 사람에게 골고루 분배되도록 노력해야 한다. ④ 침해금지 - 인공지능을 인간에게 직간접적인 해를 입히는 목적으로 활용해서는 안 된다. - 인공지능이 야기할 수 있는 위험과 부정적 결과에 대응 방안을 마련하도록 노력해야 한다. ⑤ 공공성 - 인공지능은 개인적 행복 추구 뿐만 아니라 사회적 공공성 증진과 인류의 공동 이익을 위해 활용해야 한다. - 인공지능은 긍정적 사회변화를 이끄는 방향으로 활용되어야 한다. - 인공지능의 순기능을 극대화하고 역기능을 최소화하기 위한 교육을 다방면으로 시행하여야 한다. ⑥ 연대성 - 다양한 집단 간의 관계 연대성을 유지하고, 미래세대를 충분히 배려하여 인공지능을 활용해야 한다. - 인공지능 전 주기에 걸쳐 다양한 주체들의 공정한 참여 기회를 보장하여야 한다. - 윤리적 인공지능의 개발 및 활용에 국제사회가 협력하도록 노력해야 한다. ⑦ 데이터 관리 - 개인정보 등 각각의 데이터를 그 목적에 부합하도록 활용하고, 목적 외 용도로 활용하지 않아야 한다. - 데이터 수집과 활용의 전 과정에서 데이터 편향성이 최소화되도록 데이터 품질과 위험을 관리해야 한다. ⑧ 책임성 - 인공지능 개발 및 활용과정에서 책임주체를 설정함으로써 발생할 수 있는 피해를 최소화하도록 노력해야 한다. - 인공지능 설계 및 개발자, 서비스 제공자, 사용자 간의 책임소재를 명확히 해야 한다. ⑨ 안전성 - 인공지능 개발 및 활용 전 과정에 걸쳐 잠재적 위험을 방지하고 안전을 보장할 수 있도록 노력해야 한다. - 인공지능 활용 과정에서 명백한 오류 또는 침해가 발생할 때 사용자가 그 작동을 제어할 수 있는 기능을 갖추도록 노력해야 한다. ⑩ 투명성 - 사회적 신뢰 형성을 위해 타 원칙과의 상충관계를 고려하여 인공지능 활용 상황에 적합한 수준의 투명성과 설명 가능성을 높이려는 노력을 기울여야 한다. - 인공지능기반 제품이나 서비스를 제공할 때 인공지능의 활용 내용과 활용 과정에서 발생할 수 있는 위험 등의 유의사항을 사전에 고지해야 한다.

출처 : https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=112&mId=113&bbsSeqNo=94&nttSeqNo=3179742

연구자연구자* 관련 논문 수가 많은 발명자입니다.

  • 조진숙 Jo, Jin-Sook 이화여자대학교

    아동복, Children's wear, sizing system, spencer jacket, 스펜서 재킷, 엠파이어 스타일, 체형, Tuxedo, 바지 원형, 신속대응

  • 김동영 Kim, Dong-Young 한국과학기술연구원

    Electrospinning, PDLC, graphite nanofiber, hydrogen storage, 수소저장, 표시소자, Passivation layer, adsorption, 금속, 다공성탄소나노섬유

기관/단체 홈페이지기관/단체 홈페이지* 이슈 관련 기관 및 단체 홈페이지입니다.

웹 뉴스웹 뉴스* 구글 뉴스에서 검색한 관련 뉴스입니다.

오피니언오피니언* 구글 뉴스에서 자동으로 추출한 전문가들의 오피니언으로 적합하지 않은 정보가 있을 수 있습니다.

1. 송 책임리더
(GMT)2023-05-11 07:53:35

산학협력을 통해 네이버 AI 윤리 준칙의 현장 적용 노력을 공유하여 AI 기술 활용에 관한 우려를 줄일 수 있도록 산업적·사회적 관점에서 상세히 설명할 것

AI 서비스 관련 외부 이슈가 제기될 경우 CHEC 결과를 기반으로 신속한 커뮤니케이션을 할 수 있도록 지원하겠다

출처 : "AI 윤리준칙은 리스크 줄여줄 것…자동화 시스템 구축 중"
2. 김 부문장
(GMT)2023-05-11 07:53:35

작년에 윤리원칙을 발표한 이후 바로 적용해 왔고 올해 구성원들이 얼마나 이를 인지하고 실천하는지 설문조사를 진행한 결과 90% 이상이 윤리원칙에 공감했다

책임 많은 리더일수록 더 높은 인식을 가지고 있었다

출처 : "AI 윤리준칙은 리스크 줄여줄 것…자동화 시스템 구축 중"
3. 박 2차관
(GMT)2023-05-11 07:53:35

챗GPT 등장 이후 초거대·생성형 AI가 산업과 일상 속으로 빠르게 확산되고 있는 상황에서 AI 윤리·신뢰성 이슈가 새로운 국면에 접어들고 있다

기술 개발부터 활용까지 전단계에서 AI 윤리·신뢰성 확보하는 것이 중요한 만큼 더욱 더 많은 노력을 기울일 것

출처 : "AI 윤리준칙은 리스크 줄여줄 것…자동화 시스템 구축 중"
4. 구글
(GMT)2023-05-11 18:00:00

AI를 시작부터 책임 있게 개발하고 사용하겠다

출처 : ‘AI 윤리’도 경쟁… 구글 “허위정보 체크” MS “공정-책임 강화” - 동아일보
5.  한국마이크로소프트
(GMT)2023-05-11 18:00:00

공정, 신뢰, 보안, 포용, 투명, 책임 등 6가지 원칙을 기반으로 AI 기술과 서비스를 개발하고 있다

출처 : ‘AI 윤리’도 경쟁… 구글 “허위정보 체크” MS “공정-책임 강화” - 동아일보
6. 김유철 LG AI연구원(부문장)
(GMT)2023-05-12 01:38:37

AI 윤리점검은 착한 AI, 사회적 평판이 좋은 AI를 만들기 위한 것이 아닌 위기에 강한 AI를 만들기 위한 것

안정성, 설명가능성, 신뢰성 등을 중심으로 연구를 진행하고 있다

출처 : 챗GPT·바드, 한국어 서비스 잇따른 출시…한발 늦은 네이버, ‘AI 윤리’ 주목도는 ‘쑥쑥’ - 이뉴스투데이
7. EU의 AI 규제
(GMT)2023-05-09 14:36:41

AI가 다룰 수 있는 광범위한 시스템을 고려할 때 큰 도전

출처 : EU, 두려움 초래 AI 기술 폭발적 발전에 챗GPT 규제 마련 서둘러 - 시사뉴스
8. 힌튼
(GMT)2023-05-09 06:02:30

악당들이 나쁜 목적으로 사용하는 것을 어떻게 막을 수 있을지 알기 어렵다

출처 : 인공지능 선구자 제프리 힌튼, "AI는 기후변화보다 위험하다"
9. 힌튼
(GMT)2023-05-09 06:02:30

지금까지 나온 모든 소설과 마키아벨리가 쓴 책으로 사람을 조종하는 방법을 배울 것이다

출처 : 인공지능 선구자 제프리 힌튼, "AI는 기후변화보다 위험하다"
10. 박윤규 과기정통부 2차관
(GMT)2023-05-12 06:57:14

챗GPT의 등장 이후 초거대·생성형 인공지능이 산업과 일상 속으로 빠르게 확산되는 과정에서 인공지능 윤리·신뢰성 쟁점이 새로운 국면에 접어들고 있다. 기술의 개발부터 활용의 전 단계에서 인공지능 윤리·신뢰성을 확보하는 것이 기업의 생존과 직결된 만큼 간담회에서 논의된 사항을 바탕으로 인공지능 윤리·신뢰성 확보와 관련하여 더 많은 노력을 기울일 것이다.

출처 : 인공지능 윤리 중요성 부각, 이용자 보호 방안은? - 이코리아
11. 방통위
(GMT)2023-05-12 06:57:14

민관협의회에서 생성형 인공지능 챗봇과 관련한 이용자 보호 이슈에 대해 다양한 분야 전문가들의 폭넓은 제언들을 기대한다

제시된 의견들을 향후 정책으로 반영해 나가겠다

출처 : 인공지능 윤리 중요성 부각, 이용자 보호 방안은? - 이코리아
12. 집필진
(GMT)2023-05-12 06:57:14

본 교재는 인공지능이 사회에 가져올 수 있는 긍정적인 모습과 부정적인 모습을 균형 있게 제공함으로써 학생들이 생각을 확장 시키는 데 도움이 되고자 한다.

출처 : 인공지능 윤리 중요성 부각, 이용자 보호 방안은? - 이코리아
13. 마이크로소프트(MS)의 수석 경제학자 마이클 슈바르츠
(GMT)2023-05-04 06:16:18

우리는 다른 기술과 마찬가지로 이 기술의 안전성에 대해 많은 걱정을 해야 한다

출처 : MS와 구글의 외침 "AI 안정성에 대한 우려 있어"
14. MS 대변인
(GMT)2023-05-04 06:16:18

우리는 AI의 미래에 대해 낙관적이며 AI의 발전이 현재보다 더 많은 도전을 해결할 것이라고 생각하지만, 우리는 또한 세상을 바꿀 수 있는 기술을 만들 때, 그 기술이 책임감 있게 사용돼야 한다는 믿음을 가져왔다

출처 : MS와 구글의 외침 "AI 안정성에 대한 우려 있어"
15. 박 차관
(GMT)2023-05-11 09:11:09

챗GPT 등장 이후 인공지능 모델의 신뢰성 이슈가 새로운 국면에 접어들고 있다

국회 상임위원회 법안소위를 통과한 인공지능법은 고위험 영역에서 활용되는 인공지능을 정의하고 사전 고지 의무를 부과하는 한편 신뢰성 확보 조치 등 사업자 책무를 규정하는 적정 수준의 규제를 포함했다

일각에서 이 같은 법이 인공지능 진흥을 위해서만 제정되는 것처럼 비판하는데 법안 명칭에서도 알 수 있듯 일방적인 산업 육성만을 위한 것이 아니다

아울러 최근 문제로 제기되는 AI의 한계를 극복할 연구개발 사업에 정부가 집중할 필요성도 강하게 느끼고 있다

출처 : 과기정통부, AI 윤리·신뢰 강화 나선다 - 서울경제 - 서울경제신문
16. 최동원 과기정통부 인공지능기반정책과장
(GMT)2023-05-11 09:11:09

인공지능 제품·서비스의 위험 요인을 분석, 신뢰성을 검·인증하는 체계를 마련해 올해 하반기부터 시범 인증을 시작할 계획

초거대 AI 모델의 위험성과 성능 등에 대해 공신력 있는 제3기관이 평가할 수 있도록 정부가 지원하는 방안도 추진할 것

출처 : 과기정통부, AI 윤리·신뢰 강화 나선다 - 서울경제 - 서울경제신문

논문논문* ScienceON에서 제공하는 관련 논문입니다.
더보기

특허특허* ScienceON에서 제공하는 관련 특허입니다.
더보기

[미국특허] SERVER, AI ETHICS COMPLIANCE CONFIRMATION SYSTEM, AND RECORDING MEDIUM

미국(US) | 공개 | 출원인 : TOYOTA JIDOSHA KABUSHIKI KAISHA; | 출원번호 : 17971847 ( 2022-10-24 ) | 공개번호 : 20230129624 (2023-04-27) | IPC : G06N-005/04(2006.01); G06K-009/62(2006.01)

[미국특허] SERVER, AI ETHICS COMPLIANCE CONFIRMATION SYSTEM, AND RECORDING MEDIUM

미국(US) | 공개 | 출원인 : TOYOTA JIDOSHA KABUSHIKI KAISHA; | 출원번호 : 17971856 ( 2022-10-24 ) | 공개번호 : 20230130389 (2023-04-27) | IPC : G06N-020/00(2006.01)

[한국특허] AI 윤리 평가 방법 및 이를 지원하는 서버 장치 (Ethics Estimation Method for trustworthy AI and an server device supporting the same)

한국(KO) | 등록 | 출원인 : 선문대학교 산학협력단; | 출원번호 : 10-2019-0163052 ( 2019-12-09 ) | 등록번호 : 10-2248705-0000 (2021-04-29) | IPC : G06Q-050/26; G06N-003/00 | 법적상태 : 등록

보고서보고서* ScienceON에서 제공하는 관련 보고서입니다
더보기

외부자료외부자료* 외부 보고서, 동향, 분석자료입니다.

맨위로