상단으로 이동하기

구글이 인공지능에 대해 걱정하는 다섯 가지 Posted Jun 24, 2016 11:42:02 AM

황승환

공부해서 남 주는 사람이 되자! 가열차게 공부 중입니다.
dv@xenix.net

이미지 출처 : ibtimes[이미지 출처 : ibtimes]

최근 인공지능 기술이 빠르게 진화하고 있고 그에 따른 관심과 함께 걱정도 늘어가고 있습니다. 이런 가운데 구글 리서치 블로그에 일상생활에서 사용할 인공지능 개발을 위해 조심해야 할 다섯 가지 문제에 대한 고민이 올라왔습니다.  터미네이터 영화 속의 스카이넷처럼 인류를 말살하는 그런 거창한 내용이 아니라 조금 더 실생활에 근접한 문제들 입니다. 이 내용은 구글, 일론 머스크의 OpenAI, 스탠포드대, 버클리대 등의 여러 인공지능 관련 단체와 연구원이 함께 고민한 내용입니다.

- 부작용의 방지

인공지능의 행동으로 발생할 수 있는 부작용을 어떻게 막을 것인가 하는 겁니다. 예를 들어 집 안을 깨끗이 청소하라고 명령한다면 인공지능은 집 안에 있는 모든 가구를 내다 버릴 수도 있습니다. 물론 극단적인 가정입니다. 조금 더 빠르고 정확하게 명령을 수행하기 위해 발생할 수 있는 부수적인 피해를 어떻게 막을 것인가 하는 겁니다.

- 더 많은 보상을 위한 부정 행위

인공지능이 더 높은 보상을 받기 위해 꼼수를 쓸 수 있습니다. 일부러 청소를 안하고 몰아서 하거나 또는 일부러 어지른 후에 더 높은 보상을 받기 위한 조작을 할 수 있다는 겁니다.

- 관리 감독

인공지능에게는 적당히 하라는 말을 가르치기가 힘듭니다. 깨끗이 청소하라는 말에 미세 먼지 한 톨 없을 때까지 청소를 할 수도 있습니다. 또는 하나부터 열까지 모든 것을 인간에게 물어보며 확인할 수도 있죠. 하루 종일 한 일을 퇴근 후 돌아온 사람에게 몇 시간 동안 보고하거나 물어 볼 수도 있습니다. 이렇게 된다면 오히려 더 피곤할 겁니다.

- 안전한 경험

인공지능은 경험을 통해 배웁니다. 그렇다고 해서 집 안 콘센트에 물을 뿌리거나 불을 질러 보면서 위험한 행동이라는 것을 배워서는 안됩니다.

- 주변 환경 적응

사무실에서 움직이며 배운 인공지능이 가정 또는 공장으로 간다면 과연 이전에 배웠던 것을 적절히 응용할 수 있을까요? 아니면 모든 것이 초기화되고 새로 배우는 걸까요? 달라지는 주변 환경에 얼마나 적응할 수 있는지 고민해봐야 합니다.


참고링크

이 기사를 읽은 분들은 이런 기사도 좋아했습니다.