1

한국에서 어떻게 번역하는지 잘 모르겠지만, 나는 카테고리 이론으로 부르는 분야에 대해서 가볍게 접근할 수 있다. 그리고 빵이나 케이크를 만드는 과정을 소개하면서 자연스럽게 수학적인 내용을 소개하는 부분 덕분에 즐겁고 배고프게 읽었다.

2

카테고리 이론에 대해서 심도있게 다루고 있지 않기 때문에 많이 아쉽긴 했지만 카테고리 이론을 소개하는 그나마 하나의 책이기 때문에 카테고리 이론에 관심이 있다면 꼭 이책을 읽어보자.

---

수학이 계속 성장할 수밖에 없는 이유 중 하나는, 한 가지 기술을 습득하면, 그 기술을 가지고 연구할 거리를 더 많이 찾을 수 있게 되고, 그러면 이러한 것을 연구하는 데 사용할 수 있는 더 많은 기술을 찾을 수 있게 되고, 그러면 또 다시 새로운 기술을 가지고 연구할 수 있는 더 많은 것을 찾을 수 있고, 그러면 또……. 마치 닭이 알을 낳으면, 알이 부화하여 닭이 되고, 또 닭이 알을 낳으면, 알이 부화하여 닭이 되고, 그러면 또……. 그렇다, 수학도 마찬가지다.

난 추상수학의 힘과 아름다움이 추상수학에서 제공하는 답이나 추상수학에서 해결하는 문제에 있는 것이 아니라 추상수학이 비춰주는 빛에 있다고 주장하려 한다.

사소한 것을 무시하면 똑같아지는 무언가를 찾음으로써 말이다.

수학에서 발상이란 대상object 사이의 유사점을 찾아내 하나의 ‘레시피’만 가지고도 수많은 상황을 만들어내는 것이다. 그 열쇠는 사소한 것을 무시하는 것이다. 그러면 상황이 더욱 이해하기 쉬워지며 그 안을 다양한 것으로 채울 수 있다. 이것이 추상 과정이다.

난 하나에 36펜스짜리 우표 두 개를 산다. 그럼 얼마일까? 초등학교에서 아이들이 이런 종류의 문제를 풀 땐 종종 ‘문장제word problem’라는 표현을 쓴다. 이런 문제는 문제가 문장으로 제시되어 있고 ‘문장제’를 풀려면 첫 단계로 문장제를 숫자와 기호로 바꿔야 하기 때문이다. 36 × 2 = ? 이것이 추상의 과정이다. 우리는 우표를 사고 있다는 사실을 저리 치워두거나 무시해야 한다. 답에는 어떠한 차이도 없기 때문이다. 우리가 사는 건 사과나 바나나, 원숭이가 될 수도 있다.

이런 면에서 봤을 때 단순히 ‘하나, 둘, 셋, 넷’이라는 시를 배우는 것과 그 쓰임을 이해하는 것 사이에는 중요한 차이점이 있다는 것을 알 수 있다.

모두가 알다시피, 목욕물과 함께 아이를 버리지 않는 것이 중요하다. 상황을 단순화하거나 이상화할 때 과도하게 단순화하지 않도록 조심해야 한다.

수학에서 사용하는 기호들에 대한 개념을 알려주고 싶었을 뿐이다. 이런 기호가 도로표지판처럼 처음에는 살짝 이해하기 힘들어 보이지만 장기적으로 봤을 땐 이해하기 더 쉬운 방법이다.

수학도 이와 마찬가지로 진행해야 한다. 첫째로 현실을 추상해야 한다. 그런 다음 추상 세계에서 논리적인 추론을 하는 것이다. 그 후 최종적으로 그 추상 세계를 현실로 되돌리는 것이다. 사람들은 이러한 과정에서 각각 소질 있는 부분이 다르다. 여기서 정말 중요한 것은 추상과 현실을 자유자재로 왔다갔다할 수 있는 능력이다. 그래도 누군가는 계속 지도를 그려야 하겠지만.

내가 처한 상황에 맞지 않는 부적절한 지도를 볼 때면 지도가 현실적이든 비현실적이든 간에 실망하게 된다(난 어느 길로 가야 하는지 헷갈리게 하는 3차원의 건물 사진들이 들어 있는 지도가 싫다). 수학도 마찬가지다. 복잡할 필요가 전혀 없는 상황에서 복잡한 수학을 해야 한다면 수학이란 쓸모없는 학문이라는 생각을 하게 될 것이다. 책이 20권밖에 없는데 듀이 10진 체계를 사용하는 것이나 마찬가지다.

추상이 싫다면 왜 수학을 하는가? 어쩌면 금융 쪽에 있는 게 더 좋겠는걸. 모든 숫자 앞에 달러 표시가 있을 테니 말이야.

카테고리 이론이란 ‘한 대상의 범주one-object category가 정확히 모노이드monoid(대수 구조의 하나)’라는 개념이다.

단순히 ‘특정’ 상황에서의 문제를 해결하는 것이 아니라 ‘모든’ 상황에서 문제를 해결하는 기계를 만드는 것이다. 이것이 x와 y를 포함하는 공식이 진짜로 의미하는 것이다. 바로 기계 말이다

멀리서 횃불을 비춘다면 좀 더 넓은 지역을 비출 수 있다. 하지만 너무 멀가면 빛이 흐려지므로 조심해야 한다.

과학은 ‘가설’, 즉 일반적인 관찰, 육감, 의심, 일화 등 그 모든 것을 사용해 사실일 거라 믿고 있는 그 무언가로 시작된다.

하지만 수학은 다르다. 첫 번째 단계는 똑같다. 수학도 어떠한 이유로 사실일 것 같은 가설로 시작한다. 하지만 증거를 사용하여 가설을 엄격하게 시험하는 것이 아니라 ‘논리’를 사용하여 가설을 엄격하게 시험한다. 여기서 ‘엄격’의 기준이 완전히 달라진다. 수학에서는 어떠한 표본도 사용하지 않기 때문에 엄격이란 표본의 크기와 상관이 없다. 단지 생각의 과정을 사용할 뿐이다.

요점은, 만약 단순히 과정을 외우기보다 그 과정 뒤에 있는 원리를 이해하면 상황을 더 잘 통제할 수 있게 되며, 뭔가 잘못됐을 때 더 잘 수정할 수 있고, 그 과정을 다른 목적으로 더 잘 변용할 수 있으며, 재료가 없거나 장비가 고장 났거나 술에 취하는 등 극한 상황 속에서도 더 잘 대처할 수 있게 될 것이다.

수학은 결과가 방법을 정당화하지 못하는 세계다. 오히려 그 반대다. 방법은 결과를 정당화할 수 있다. 방법이 결과를 낸 완전한 이유이다. 이것을 수학적 증명이라고 부른다

수학의 중심에는 뭔가를 단순히 아는 것이 아닌, 뭔가를 이해하고자 하는 바람이 있다.

수학에는 ‘최종 결과’에 이름을 붙이는 법칙이 있다. 이는 최종 결과가 얼마나 훌륭하고 획기적일지에 달려 있다. 그 정도가 작은 건 ‘부명제’, 중간인 건 ‘명제’, 적당히 중요한 건 ‘정리’라고 부른다. 뭔가 사실 같지만 아직 증명되지 않았을 때는 ‘추측’ 혹은 ‘가설’이라고 한다. 그래서 ‘푸앵카레 추측’이나 ‘리만의 가설’이 있었던 것이고 ‘페르마의 마지막 정리’가 있는 것이다.

수학자는 끝에서 정말로 ‘끝’이라는 말을 쓰지는 않는다. 대신 끝을 상징하는 박스를 그리거나 ‘Quod erat demonstrandum’이라는 의미를 나타내는 ‘QED’라는 글자를 쓸 것이다. Quod erat demonstrandum은 대략 ‘이것을 증명하려 했던 것’이라고 번역할 수 있다.

재밌는 건, 밀가루 없는 초콜릿 케이크와 마찬가지로 아무 것도 틀리지 않았다. 단지 다른 것뿐이었다. 그들은 새로운 형태의 기하학을 발명한 것이다.

100미터 달리기를 하다가 부정 출발로 실격되었다면 짜증이 날 것이다. 하지만 이건 정확한 규칙이다. 규칙에 동의하지 않을 수는 있어도 규칙이 적용되었다는 사실에는 (합리적으로) 동의하지 않을 수 없다. 이것은 수학을 정확하게 만드는 요소 중 하나이기도 하지만 사람들을 실망시키는 요소 중 하나이기도 하다.

우리는 레고 블록처럼 숫자를 사용하는 게임을 할 수 있다. 내가 믿든 안 믿든 차이는 없다. 이것은 게임이다.

즉, 어떠한 가정도 하지 않고 시작한다면 무엇도 추론할 수 없을 것이다

따라서 수학이란 루이스 캐럴이 <마인드> 1895년 호에 기고한 ‘거북이가 아킬레스에게 한 말’처럼 ‘절대적 사실’에 관한 것이 아니다. 캐럴은 다음의 세 가지 주장을 고려한다. A 같은 것으로 비교했을 했을 때 동일하면 서로 동일한 것이다. B 한 삼각형의 두 면은 같은 것으로 비교했을 때 동일하다. Z 이 삼각형의 두 면은 서로 동일하다.

수학의 논리에서 이런 기본 원칙을 ‘추론의 법칙’이라고 부른다. 뭔가 다른 것에서 뭔가를 추론할 수 있기 때문이다. 이것은 ‘modus ponens(모더스 포넌스, 문자 그대로는 긍정의 방법이라는 뜻이다)’라는 화려한 이름을 얻었다.

수학은 두 가지 큰 목적이 있다. 1 개념을 정확히 진술하기 위한 언어, 그리고 개념을 분명하게 논쟁할 수 있는 체계를 제공하는 것 2 모두에게 일반적으로 통하는 관련 특징에만 초점을 맞춤으로써 다양한 개념을 비교하고 동시에 연구할 수 있도록 개념을 이상화하는 것 좀 더 간단히 말해서, 수학은 어려운 것을 쉽게 만들기 위해 있는 것이다.

뭔가가 어려워지는 이유는 세 가지다. 이는 수학이 다루는 부분이다. 1 우리의 직감은 뭔가를 알아내기에 충분히 강하지 않을 수 있다. 2 뭔가가 정말 무엇일지 아는 게 불가능할 수밖에 없는 모호성이 너무 많다. 3 솎아내야 할 문제가 너무 많고 솎아낼 시간도 너무 적다. 여기서 수학이 우리에게 도움이 된다. 1 수학은 보통의 직감으로는 너무 어려운 논쟁을 구조화하고 이해하는 데 도움이 된다. 2 수학은 우리가 무엇을 논의하고 있는지 정확히 알 수 있도록 모호성을 제거해준다. 3 수학은 결국엔 많은 질문이 동일한 질문이라는 것을 보여줌으로써 상황을 정리해준다.

이러한 ‘그럴 것이다’라는 것은 어디서 오는 것일까? 사회에서 온다. 지구가 둥글다는 사실을 믿는 것이 언제나 규범적인 것은 아니었다.

나는 지금 내가 가정하고 있는 것이 무엇인지 아는 것이 중요하다고 ‘믿는다’. 그 믿음이 모두 믿음의 나무 뿌리에 기초를 두고 있든지, 아니면 신에 기초를 두고 있는지 상관없다.

그러니, 수학은 쉽고, 삶은 어렵다. 따라서 수학은 삶이 아니다. 이것은 수학의 범위를 가능한 한 많은 것을 포함하도록 확장해서는 안 된다는 의미는 아니다.

카테고리 이론은 관계의 중요성을 강조한다는 것이다. 어떠한 대상의 내적 특성을 연구하는 것보다 관계를 훨씬 중요하게 여긴다.

수학에서는 나 외에는 아무것도 나와 동일하지 않다.

왜냐하면 내 ‘책상’은 식탁도 된;ㅣ까

수학에는 대수학, 기하학, 논리가 있다고 하는 이론이 있다. 폭넓게 말하면 대수학은 기호를 조작하는 것이다. 기하학은 형태와 위치를 다룬다. 논리는 대상에 대한 논의를 생성한다. 이 이론은 모든 수학자가 다음과 같은 삼각형의 모서리 어딘가에 위치하고 있다고 말한다.

내가 쓰던 논문도 같은 구조에 대한 세 가지 표현, 즉 ‘내부’ 동기의 구조, ‘외부’ 동기의 구조, 마지막으로 그 둘을 중재하는 구조적 목적만 가지고 있는, ‘숨은’ 구조와 연관되어 있었다.

이제 나는 내적 동기와 외적 동기의 차이점에 대한 강한 믿음, 그 둘 사이를 연결해주는 구조적 중재물에 대한 강한 믿음, 그리고 정말로 좋은 아이디어가 있다면 그 아이디어를 이루거나 합리화할 방법은 뒤늦게 따라올 수 있다는 생각에 대한 강한 믿음이 있다

카테고리 이론에서 어떠한 구조를 살펴보는 건 구조의 일부를 떼어냈을 때 무엇이 잘못될까 하는 점을 살펴보는 것이라서 중요하다

카테고리 이론의 핵심적인 목표 중 하나는 동일성의 살짝 미묘한 개념을 정확하게 하는 것이다.

이러한 점을 오해하는 상황 중에 내가 좋아하는 예가 있는데, 컴퓨터가 인간을 대신해 어떠한 대상들이 서로 ‘동일’한지 판단하려고 할 때다. 바로 온라인 쇼핑에서 말이다.

보편적 특성은 최고이자 최악, 혹은 처음이자 마지막과 같다.

종종 우리는 어떤 대상이 주어진 맥락 안에서 동등한지 생각한다고 말했다. 하지만 종종 우리는 어떠한 대상이 동등하다고 생각하고 나서 그에 맞는 맥락을 찾는다고도 말했다

역할만 대상을 특징짓는 것이 아니라 대상이 역할을 특징짓기도 하기 때문이다.

증거는 논리적으로 빈틈없지 않기 때문이다. 증거는 과학에서 중요한 기반이지만 수학에서는 증거만으로는 진실이라고 판단하기에 충분하지 않다. 수학이 과학과 비슷한 것이긴 하지만 실제 과학은 아닌 이유다. 수학은 ‘논리적 방법’을 사용한다. 사실이란 오직 냉정하고 말끔한 논리를 사용해서 추론한 것이다. 수학적으로 참인 것은 증명 덕분에 믿을 수 있다. 모든 것은 엄격하게 증명되고, 한 번 증명된 것은 번복되지 않는다. 증명에서 실수를 찾을 수는 있지만, 그렇다고 해서 결코 증명된 것이 아니라는 것을 의미하지는 않는다. ‘증명’이라는 개념 덕에 수학에서 무엇이 참이고 무엇이 참이 아닌지를 아는 완벽한 방법을 갖게 되었다. 무언가가 참이라는 것을 어떻게 보여줄 수 있을까? 우리는 그것을 증명한다.

참의 세 가지 측면을 얘기해보고자 한다. 1 믿음 2 이해 3 지식 세인트폴 대성당의 세 돔과 비슷하다. 우리에게는, 바깥세상이 보는 지식, 우리 내부에서 느껴지는 믿음, 그 둘을 함께 묶는 이해가 있다.

증명에는 사회학적인 역할이 있는 반면, 설명에는 개인적인 역할이 있다. 증명은 사회를 확신시키는 반면 설명은 우리를 확신시킨다.