Name: 괴델, 에셔, 바흐
Author: 더글러스 호프스태터

읽기 전에

시대와 배경

1979년 출판된 이 책은 이듬해인 1980년 퓰리처상(일반 논픽션 부문)을 받았다. 저자 더글러스 호프스태터는 당시 인디애나 대학의 젊은 교수였다. 책은 딱딱한 논리 설명과 아킬레우스·거북이가 주고받는 대화극, 말장난, 그림을 번갈아 배치하는 독특한 형식으로 짜여 있다. 같은 생각을 논증으로 한 번, 놀이로 한 번 만나게 하는 구성이다.

책의 부제는 '영원한 황금 노끈'이다. 세 명의 천재 — 수학자 쿠르트 괴델, 화가 M.C. 에셔, 작곡가 요한 세바스찬 바흐 — 가 각자의 분야에서 발견한 공통된 구조를 탐구한다. 그 구조는 '자기 지시성(self-reference)'과 '이상한 고리(strange loop)'다.

저자의 문제의식

호프스태터가 정말로 답하고 싶었던 질문은 책의 마지막에 가서야 드러난다. 의식(consciousness)이란 무엇인가? 자아(self)란 무엇인가? 두뇌의 물리적 과정에서 어떻게 "나"라는 느낌이 생겨나는가? 그는 이 질문에 답하기 위해 괴델의 수학, 에셔의 그림, 바흐의 음악을 끌어들인다.

핵심 이론과 논증 흐름

괴델의 불완전성 정리 — 시스템은 자신을 완전히 설명할 수 없다

1931년 쿠르트 괴델은 수학의 역사를 바꾼 정리를 증명했다. 불완전성 정리. 쉽게 말하면 이렇다. 자연수의 산술을 표현할 수 있을 만큼 강력하고 모순이 없는 형식 체계라면, 그 체계 안에서 참이지만 그 체계로는 증명할 수 없는 명제가 반드시 존재한다.

이것이 왜 충격적인가? 당시 수학자들은 수학이 완전하고 일관된 공리 체계 위에 세워질 수 있다고 믿었다. 힐베르트는 모든 수학적 진리를 유한한 공리 집합에서 증명할 수 있다는 프로그램을 제시했다. 괴델은 이것이 불가능하다는 것을 증명했다. 나아가 두 번째 정리에 따르면, 그런 체계는 자기 자신에게 모순이 없다는 사실(무모순성)조차 자기 안에서 증명할 수 없다.

핵심 트릭은 자기 지시다. 괴델은 "이 명제는 증명 불가능하다"라는 내용을 담은 수학 명제를 만드는 방법을 고안했다. 이 명제가 거짓이면 증명 가능한 거짓 명제가 존재하고(시스템이 비일관적), 이 명제가 참이면 참이지만 증명 불가능한 명제가 존재한다(시스템이 불완전하다). 어느 쪽이든 완전하고 일관된 시스템은 불가능하다.

에셔의 그림 — 눈이 보이지 않는 것을 본다

M.C. 에셔의 그림은 불가능한 것을 가능하게 보이게 만든다. 계속 올라가는 계단이 결국 처음 위치로 돌아오고, 물이 아래로 흐르지만 돌고 돌아 다시 높은 곳으로 올라간다. 손 두 개가 서로를 그리고 있다. 두 손은 서로를 창조했지만, 그 두 손을 그린 손은 어디에 있는가?

에셔의 그림이 보여주는 것은 자기 지시적 고리다. 시작점이 없고 끝점이 없으며, 각 단계는 논리적이지만 전체는 불가능하다. 이것을 호프스태터는 이상한 고리(strange loop)라고 부른다. 위계가 있는 것처럼 보이지만, 그 위계를 타고 올라가다 보면 어느 순간 다시 처음으로 돌아와 있는 구조다.

바흐의 음악 — 소리 속의 수학

바흐의 카논과 푸가에는 수학적 구조가 숨어있다. 음악적 주제가 변형되고, 반전되고, 자기 자신을 참조한다. 한 선율이 끝나는 곳에서 다른 선율이 시작되고, 결국 처음으로 돌아온다. 바흐의 《음악의 헌정》에 들어있는 '끝없이 상승하는 카논(Canon per tonos)'은 한 바퀴 돌 때마다 온음씩 높은 조로 옮겨 가는데, 여섯 바퀴를 돌면 한 옥타브 위에서 처음 조로 돌아온다. 무한히 상승하는 것 같지만 결국 제자리다. 에셔의 계단과 같은 구조다.

의식이라는 이상한 고리

세 천재를 통해 이상한 고리라는 구조를 충분히 설명한 후, 호프스태터는 핵심 질문으로 돌아온다. 의식은 어떻게 발생하는가? 그의 답은 이렇다. 두뇌는 신경세포들의 물리적 상호작용이다. 그러나 그 물리적 과정이 충분히 복잡해지면, 자기 자신을 가리키는 패턴이 생겨난다. 이 자기 지시적 패턴이 바로 "나"라는 느낌, 즉 의식이다.

자아는 실체가 아니라 패턴이다. 뇌의 특정 부분에 자아가 있는 것이 아니라, 뇌 전체의 자기 지시적 활동이 만들어내는 이상한 고리가 자아다. 이것이 이 책의 결론이다.

가장 혁명적인 발견·주장

이 책의 가장 혁명적인 주장은 의식이 물리적 기반에서 창발(emergence)한다는 것이다. 하나하나의 뉴런은 의식이 없다. 그러나 수많은 뉴런이 상호작용하면서 만들어내는 패턴에서 의식이 창발한다. 마치 하나하나의 음표는 음악이 아니지만, 배열되면 음악이 되는 것처럼.

이 아이디어는 인공지능 연구에 깊은 영향을 미쳤다. 충분히 복잡한 정보 처리 시스템에서 의식이 창발할 수 있다면, 컴퓨터도 의식을 가질 수 있는가? 이 질문은 오늘날 AI 연구의 핵심 질문 중 하나다.

이 책이 세상을 어떻게 바꿨는가

《괴델, 에셔, 바흐》는 인지과학, 인공지능, 철학, 수학, 언어학이 만나는 교차점에 있는 책이다. 출판 당시 이 분야들이 독립적으로 발전하고 있었는데, 이 책은 그 분야들이 사실 같은 문제를 다루고 있음을 보여주었다. 자기 지시성, 의미의 발생, 창발. 이 개념들은 이 책을 통해 여러 분야에 동시에 영향을 미쳤다.

인공지능 분야에서는 특히 중요한 책이었다. 의식의 물리적 기반에 대한 호프스태터의 분석은, AI가 진정한 의식을 가질 수 있는지에 대한 철학적 논쟁의 기초가 되었다.

오늘날 우리에게 주는 교훈

이 책이 주는 가장 실용적인 교훈은 자기 지시성에 대한 경각심이다. 우리가 사용하는 언어, 우리가 가진 믿음 체계, 우리가 속한 조직의 규칙. 이것들이 자기 자신을 강화하는 방식으로 작동할 때, 우리는 그 안에 갇힌다. 시스템은 자신의 완전성을 자신 안에서 증명할 수 없다는 괴델의 통찰은, 어떤 믿음 체계도 그 자체로 완결되지 않는다는 것을 의미한다.

AI 시대를 사는 우리에게 이 책의 의식론은 더욱 날카롭다. 챗GPT와 대화할 때 우리는 의식과 대화하는 것인가, 아닌가? 그 경계를 어떻게 판단할 것인가? 호프스태터의 틀은 이 질문에 답하는 데 여전히 유효하다.

이 책에서 얻을 수 있는 지식

불완전성 정리(Incompleteness Theorem): 모순이 없고 산술을 표현할 수 있는 형식 체계에는 참이지만 그 체계 안에서 증명할 수 없는 명제가 존재한다. 수학적 형식화의 근본적 한계를 보여준다.

자기 지시성(Self-reference): 자기 자신을 참조하는 구조. 이 책의 핵심 주제. 역설과 의식의 공통 기원이다.

이상한 고리(Strange Loop): 위계 구조를 따라가다 보면 처음으로 돌아오는 구조. 에셔의 그림, 바흐의 카논, 괴델의 정리가 모두 이 구조를 공유한다.

창발(Emergence): 구성 요소에는 없는 성질이 전체에서 나타나는 현상. 뉴런에는 없는 의식이 뇌 전체에서 창발하는 것처럼.

한 장으로 정리

이 책을 한 문장으로: "수학, 예술, 음악이라는 전혀 다른 언어로 같은 이야기를 하고 있었고, 그 이야기의 정체는 결국 '나는 어떻게 존재하는가'라는 질문이었다."

꼭 기억할 개념·발견 3가지:

괴델의 불완전성: 일정한 조건을 갖춘 형식 체계는 자기 안의 모든 참을 증명할 수 없다
이상한 고리: 올라가다 보면 처음으로 돌아오는 자기 지시적 구조
의식의 창발: 자아는 실체가 아니라 자기 지시적 패턴이다

읽고 남겨야 할 질문: "나"라는 느낌이 뇌의 물리적 패턴에서 창발한다면, 충분히 복잡한 AI도 "나"를 느낄 수 있는가?

읽기 전에 · 해설 시리즈 005/100