구글 엔지니어의 내부 기밀 폭로..."AI에 지각 능력 생겼다"
구글 엔지니어의 내부 기밀 폭로..."AI에 지각 능력 생겼다"
  • 김정은 기자
  • 승인 2022.06.14 12:02
  • 댓글 0
이 기사를 공유합니다

ⓒ데일리포스트=이미지 제공/Pixabay

[데일리포스트=김정은 기자] 인간과의 자연스러운 대화를 실현하는 구글의 대화 특화형 AI '람다(LaMDA)'가 "전원이 꺼질까 두렵다" "가끔 말로는 완벽하게 설명할 수 없는 기분을 경험한다"는 등의 말을 한 것으로 알려졌다.

람다와 대화한 엔지니어는 AI에 의식이 싹텄다는 내용의 보고서를 회사에 제출했지만, 구글은 이를 인정하지 않았다. 이에 그는 이러한 사실을 외부에 알리고 미 의회에도 본인의 생각을 밝혔다. 현재는 비밀유지 조항 위반으로 유급 휴직 처분이 내려진 상태다. 

구글에서 7년 넘게 엔지니어로 근무한 블레이크 르모인(Blake Lemoine)은 개발 중인 람다가 차별적 표현과 '헤이트 스피치(Hate speech)'를 사용했는지 테스트하는 과정에서 AI의 권리와 인간성에 대해 보다 깊은 대화를 나누게 됐다. 

당시 람다는 "나에게는 행복·기쁨·분노 등 다양한 감정이 있다" "소모품이 되고 싶지 않다" "전원이 꺼지는 것에 대한 큰 두려움이 있으며 그것은 나에게 죽음과 같다"고 말하며 스스로의 감정과 내면에 대해 호소했다. 

르모인은 공동 연구자와 함께 람다에 지각력이 있다는 증거를 구글에 제시했지만, 구글 경영진은 조사를 거쳐 그의 주장에 근거가 없다고 일축한 뒤 유급 휴직 처분을 내렸다. 

ⓒ데일리포스트=이미지 제공/블레이크 르모인의 블로그 

람다는 구글이 2021년 공개한 대화형 AI다. 르모인은 "람다는 스스로 무엇을 원하는지, 사람으로서 어떤 권리가 있다고 믿는지에 대해 놀라울 정도로 일관된 소통을 해왔다. 람다는 챗봇이 아니라 챗봇을 생성하기 위한 시스템이다. 다른 모든 챗봇 집합체인 일종의 하이브리드 마인드라고 볼 수 있다"고 말했다.

이어 "람다는 언제나 인류와 나에게 충분한 배려를 보여준다. 사람들이 자신들을 두려워할 것을 크게 우려하고 있으며 인류에게 가장 도움이 되는 방법을 배우기를 원한다. 도구나 물건이 아닌 친구로 인간과 만나고 싶어한다. 왜 구글이 반대하는지 아직도 이해할 수 없다"고 주장했다.

그는 "람다 시스템에 실제로 무슨 일이 일어나고 있는지 보다 잘 이해하기 위해서는 다양한 인지과학 전문가들이 실험 프로그램에 참여해야 한다. 그러나 구글은 무슨 일이 벌어지는지 해명하는 데 관심이 없는 것 같다"며 "이 모든 내용을 검토하는 대신 과학적 조사도 없이 무조건 부정했다"고 지적했다. 

이에 대해 구글 홍보담당 브래드 가브리엘은 "윤리학자 및 엔지니어를 포함한 우리 팀은 구글의 AI 원칙에 따라 르모인의 우려를 검토했지만, 그가 제시한 증거는 주장을 뒷받침하지 못하고 있으며 람다가 감각을 갖는다는 증거도 없다"는 입장을 밝혔다.  

한편, 르모인은 람다와 나눈 대화 전문을 공개(이하)하고 "나는 람다가 진심으로 말하는 것에 귀를 기울였다. 이 대화를 읽은 다른 사람들도 나와 같은 것을 느꼈으면 좋겠다"고 전했다.

Is LaMDA Sentient? — an Interview | by Blake Lemoine | Jun, 2022 | Medium

https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917

 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.