장영실쇼-인공지능 편~
김지연
장영실쇼-인공지능 편을 보고서
장영실쇼(KBS)는 좋은 프로그램으로 보입니다. 과학기술 이슈를 쉽게 전달하려는 노력이 엿보입니다. 그리고 오류도 보이는군요. 누구나 그렇듯이 ^^ 이런 오류는 그때그때 바로잡고 가야 좋습니다. (그래서 장영실쇼 게시판에도 글을 남김 ㅎㅎ)
출연진 중에서 뇌과학자 김대식교수는 튜링테스트를 낮게 평가했는데요. “튜링테스트를 통과한다는 것은 거짓말을 해야 한다는 것이므로”.... 좋지 않다는 견해를 피력했습니다. (다시보기가 가능함) 이는 튜링테스트를 규범적인 차원에서 평가한 것인데, 제가 보기에 이것은 튜링테스트를 절반만 이해한 것입니다. 튜링테스트는 철학적이고 존재론적인 차원에서 다루어져야 합니다.
튜링테스트 환경에서 만약 어떤 기계가 거짓말을 하는데 성공했다면, 그것은 단지 거짓으로 끝나는 것이 아닙니다. 엄밀하게 말해서 거짓말은 상대방이 속았을 때 완성됩니다. 속을 수 없다면 그것은 거짓말이 아닙니다. 따라서 면접관이 그 기계의 주장을 진실인 것으로 믿는 순간 비로소 그 말은 거짓인 것으로 확정될 수 있습니다. 다시 말해서 그 기계는 거짓말을 할 수 있는 것으로 증명됩니다.
그런데 동시에 역설적이게도 그 기계의 주장은 그 순간 진실이 됩니다. 왜냐하면 그 몸이 인간의 생물학적 몸이 아니라는 점에서는 거짓을 말한 것이지만, 그 기계는 언어 레벨에서는 진실을 말한 것입니다. 그가 자신을 인간이라고 주장했고 그런 주장에 면접관이 속았다면, 면접관은 그 기계의 말과 인간의 말을 구별할 수 없었다는 의미입니다. 우리의 인지적 대상이 다 그렇듯이...........구별할 수 없었다면 그것은 동일한 것으로 간주되어야 합니다. 그러므로 그 기계는 언어레벨에서는 ‘인간’입니다. 그것은 자신을 인간이라고 주장하는 기계의 선언이 진실이 되는 순간입니다. 결론적으로 거짓말을 하는데 성공한 기계라면 그의 말은 진실이기도 하다는 역설이 성립합니다.
그래서 튜링테스트는 생물학적 몸이 인간이 아닌데도 언어 차원에서는 인간으로 작동하는 상태가 가능할 것인가? 라는 철학적 논쟁을 불러일으키기도 했습니다. 드레이퍼스나 돈 아이디에 의하면, 생물학적으로 인간의 몸을 가진 자가 아니라면 언어적 차원에서 인간처럼 말하는 것은 사실상 불가능합니다. 그간 수많은 튜링테스트 실제 버전에서 대체로 인간 면접관은 기계의 주장을 쉽게 간파할 수 있었습니다. 그동안 튜링테스트는 수많은 철학적 논쟁의 가지들로 뻗어나갔고, 그렇게 담론을 두텁게 형성하는데도 기여했습니다. 단순히 규범성에 근거해서 거짓말이 나쁘다는 식으로 말하는 것은 논점을 잘못 유도하는 것이라서 아쉬웠습니다.
인터넷/게임 분야 이야기도 장영실쇼같은 곳에서 다루면 좋을텐데요.^^
Yun Myung Kim
--
이 메일은 Google 그룹스 '게임_거버넌스' 그룹에 가입한 분들에게 전송되는 메시지입니다.
이 그룹에서 탈퇴하고 더 이상 이메일을 받지 않으려면 game_governan...@googlegroups.com에 이메일을 보내세요.
더 많은 옵션을 보려면 https://groups.google.com/d/optout을(를) 방문하세요.
김지연
덕분에 오랫만에 모두에게 안부~♡
하나 더 추가로 인공지능의 개발이 흥미진진한 이유는 기술측면만이 아니라 인간문제에 대해서도 질문을 던지다는 거예요~ 뭐냐면 우리자신(인간)에 대해서 우리가 잘모른다는 것을 인공지능을 만들려고 하는 순간 발견하게 되요. 우리가 매일 일상적으로 하는 그런 생각들을 구현하려고 하는데 잘 안되더라는 거죠~그건 역으로 인간이 어떻게 생각하는지에 대한 작동 기작을 모른다는 반증!
그래서 튜링테스트도 블라인드테스트라는 간접적인 방법을 채택하는거고요.
"너희들 자신에 대해서 얼마나 알고 있어?" 인공지능은 이렇게 질문을 던지는 기술인 것같아요.