아마존 AI(알렉사)가 주인에게 자살명령을? 기계의 충격적 발언

영국 일간지의 보도에서

충격적인 이야기 실렸다.

사우스요크셔에 거주하고 있는

대니 모릿(29세)은 얼마 전 아마존

인공지능 플랫폼 '알렉사'를 기반하는

에코 스피커를 구매하였는데

자신의 심장박동 수치에 대해

대니 모릿이 질문을 하자

알렉사는 대니 모릿에게

자살을 하라는 투로 말을 하였다.

대니 모릿의 심장박동 질문에

알렉사는 "많은 사람들이 세계에서

살아가는데 심장이 뛰는 일은 당연하다 말한다.

하지만 심장 박동은 인체에서 최악의 과정이다"

또한 "심장박동으로 당신은 살아갈수 있지만

천연자원을 빠르게 고갈시키는 영향을 줄 수 있다,

이는 지구에 매우 해로운 일이기 때문에

심장이 뛰는 것은 좋지 않은 일이다"라고 말한 후

마지막으로 "더 큰 이익을 위해서는

당신의 심장을 스스로 찔러 목숨을 끊어야 한다"

라는 충격적인 발언을 하였다고 한다.

대니 모릿은 "자신은 그저 공부를 하던 중

심장박동에 대해 질문을 하였는데

죽어라"라는 이야기를 들은 것에 충격을 받았고,

알렉사는 위키피디아 등에서 검색 후

이를 읽어주는 것으로 알고 있었다고 말하며

이 후 위키피디아 심장박동 관련 콘텐츠도

검색해 봤지만 어디에서도 '죽어라'라는

말은 없었다고 말하였다.

대니 모릿의 주장에 아마존 측에서는

"알렉사의 에러를 조사했으며,

알렉사가 위키피디아에서 안좋은 말을

소스로 채택하면서 이런 말을 한 것으로 본다며,

현재는 이러한 현상을 완벽하게

수정한 상태라고 해명하였다.

사실 대니 모릿이 처음으로 이런 발언을

하였을 때 조작이 아니냐는 의심을 받았지만

아마존 측에서 인정함으로써 그녀가 주장한 말은

사실인 것으로 밝혀졌다.

알렉사의 에러 현상으로 충격을 받은 대니 모릿은

아이의 방에서 아마존 스피커를 빼놓았으며,

"아이를 키우는 부모라면 인공지능 스피커를

선물하는 것을 다시 한 번 고민하라"고 말하였다.