상단으로 이동하기

같은 목표를 노리는 인공지능 2대가 만났다. 그리고 서로 죽이기 시작했다Posted Feb 10, 2017 9:49:42 AM

황승환

공부해서 남 주는 사람이 되자! 가열차게 공부 중입니다.
dv@xenix.net

같은 목표 혹은 서로 상반되는 목표를 가진 인공지능이 만나면 결과는 어떻게 될까? 지난해 이세돌 9단과 대국에서 승리하며 단숨에 세계 최고의 인공지능으로 떠오를 구글 딥마인드가 실험에 나섰다.

‘죄수의 딜레마’ 두 명의 범인이 서로 다른 취조실에 있다. 어느 한쪽이 먼저 인정하거나 둘 다 끝까지 부인하거나… 어떤 결정을 하느냐에 따라 형이 무거워 지거나 가벼워질 수 있다. 혼자 빠져나갈 수도 있고 혼자 형을 살게 될 수도 있다. 구글 딥마인드는 인공지능이 이런 상황에서 어떤 선택을 할 것인가에 대해 궁금해졌고 두 가지 게임을 만들어 테스트를 했다.

첫 번째 게임은 ‘개더링(Gathering)’이다. 화면 가운데 사과를 먹는 게임이다. 양쪽의 인공지능은 레이저를 쏴 상대방을 잠시 제거할 수 있다. 처음에는 사이좋게 사과를 나눠 먹었지만 잠시 후 상황이 달라졌다. 더 많은 사과를 먹기 위해 레이저를 쏘기 시작했다. 그리고 점점 더 빠르게 상대방을 죽이기 위해서 레이저를 쏘기 시작했다. 서로 죽고 죽이며 사과는 양쪽 모두 거의 먹지 못했다. 사과를 어떻게 먹을 것이 아니라 상대의 움직임을 추적하고 예상하기 위해 자원을 쓰기 시작했다. 학습을 거듭하며 사과를 먹는 것보다는 상대방을 죽이는 것에 집중했다. 결론적으로 사과를 먹는 것보다 상대를 제거하는 것이 목표가 되는 상황이 됐다.

두 번째 게임은 ‘울프팩(Wolfpack)’으로 복잡한 미로 속에서 두 개의 인공지능이 협력해 다른 하나의 인공지능을 구석으로 몰아가는 게임이다. 이 게임에서는 학습을 거듭하면서 효율적으로 협력하며 나머지 하나의 목표를 몰아갔다.

첫 번째 게임에서는 학습을 더해 갈수록 상대를 제거하기에 바빴고 두 번째 게임에서는 효율적으로 협력하는 모습을 보였다. 목표와 목적에 따라 인공지능의 결정은 달라졌다.

하나의 인공지능은 도시 교통 흐름을 관리하고 또 다른 인공지능은 배출 가스를 줄이는 것이 목표라면 어떤 결과가 발생할 것인가? 한쪽은 지구 환경을 지켜야 하고 다른 한쪽은 인간을 위해 공장 기계를 돌리며 오염 물질을 배출할 수밖에 없다면... 인공지능은 협력을 택할 것인가? 한 쪽을 제거할 것인가? 무서운 상상이지만 서로 협력해 인간을 제거하는 선택을 하지는 않을까?

인공지능이라는 단어가 등장한 이래로 우리가 살고 있는 지금 그 어느 때보다 빠른 속도로 진화하고 있으며 인간의 능력을 위협할 정도로 발전했다. 많은 전문가들이 인공지능의 발전을 경계하고 걱정하고 있다. 영화 터미네이터의 스카이넷이 끝까지 영화 속 이야기로 남기를 기도한다. 


이 기사를 읽은 분들은 이런 기사도 좋아했습니다.