고전논리학과 대화논리학

형식논리학입문

洪聖基
고전논리학과 대화논리학
형식논리학 입문
 책머리에

20세기 초 네덜란드의 수학자 브라우어Brouwer에 의해 제기된 고

전논리학에 대한 설득력 있는 비판은 이후, “철학의 윤리란 정당
화에 있다”는 신념하에 배중율의 제한 없는 사용이 일체의 정당성
을 결여했다는 확신을 갖고 있는 직관주의 논리학자들은 ‘논리학
의 구성주의적 재구성’을 목표로 다양한 모색을 계속해 왔다. 그
결과의 하나로서 P.로렌젠Lorenzen이 1958년 발표한 “논리와 투기”
를 단초로 K.로렌즈Lorenz는 직관주의 논리학을 철학적으로 엄밀ㄹ
하게 정당화 하는 데, 즉 구성주의적 기초를 마련하는 데에 성공
하였다. 그 결과가 대화논리학이다.

그러나 현재 한국에서 발간된 논리학책의 거의 전부는 고전논리

만을 다루고 있어, 일반인들에게 고전논리학이란 일종의 ‘천상의
선물’로 간주되고 있는 실정이다. 다른 한편 대화논리학의 경우 대
부분의 문헌이 독일어로 쓰여 전공자들에게도 접근이 쉽지 않은
것이 사실이다.

고전논리학이 광범위한 쓰임이 있는 것은 분명하지만, 그렇다고

해서 그 한계를 잊어서도 안 된다. 특히 컴퓨터의 발전과 대량보
급에 의해 도래된 IT시대에 바로 컴퓨터의 계산과정이 유한하다는
점에서, 유한성을 전제로 하는 직관주의 논리학의 쓰임이 점차 커
지고 있다는 점도 고전논리학 일색의 논리교육을 다시 한 번 살펴
보아야 할 이유라고 할 수 있다.

논리학을 배우는 목적은 물론 논증의 타당성을 판단하는 방법을

습득하는 것이지만, 다른 한편 이를 위해서는 논리학에 등장하는
많은 전문적 기술용어들의 이해가 필수적이다. 이 전문용어들은

4 고전논리학과 대화논리학
때로는 논리학 내부의 기술용어이기도 하지만, 때로는 논리학의
전제와 관련된 개념들이기도 하다. 여기에서 고전논리학과 대화논
리학의 서로 상이한 개념정의와 상이한 전제들을 서로 비교하면서
배운다는 것은, 그 자체가 형식논리의 이해에 기여한다.

이런 이유로 이 책은 처음부터 고전논리학의 전제와 그 구성과

정에 대하여 비판적인 입장을 취하고 있다. 그렇다고 해서 고전논
리학의 세부사항이 경시되지는 않았으며, 논증의 타당성에 대한
고전적 접근 방법도 충분히 소개하였다. 다만 고전논리학과 대화
논리학을 한 학기에 배우기 위해서는 연습의 비중을 줄일 수밖에
없었다. 그러나 이런 연습과정은 이미 출간된 많은 논리학 책을
통해 쉽게 보완할 수 있는 부분이기도 하다.

필자의 은사이기도 한 로렌즈 교수는 논리학자이지만 논리학의

쟁점이 결코 기술적인 것이 아니며 철학일반의 상황, 즉 인간이
현실적으로 하고 있고 할 수 있는 행위와, 이 행위에 대한 이론
간에 깊은 단절이 있음을 보여주려고 노력하였다. 예를 들어 대상
언어의 논리체계를 도입하기 위해서는 우리가 사용하고 있는 메타
언어가 필수적이지만(행위의 차원!), 고전논리학자들은 바로 이 메
타언어가 암묵적으로 이론화되어 있고, 그것이 바로 대상언어와
동일한 논리체계라는 전제를 하고 있다(이론의 차원!). 반면 대화
논리학에서는 바로 이 메타언어의 논리체계란 암묵적이건 명시적
이건 결코 그 논리적 구조가 자명하지 않으며 비로소 인간의 행위
를 통해 재구성되어야 한다고 보고 있다. 이런 점에서 ‘형식논리
학’ 입문이라는 부제를 달은 이 책은, 그 기술적 측면을 강조하기
보다는 논리적 언어 행위와 이 언어행위의 이론적 재구성에 대한
서로 상이한 이해와 접근의 기록으로 볼 수 있다.

2009년 11월

책머리에 5
 차례

(i) 책머리에 4
(ii) 차례 6

1. 고전논리학과 비고전논리학 12
1.1 고전논리학의 정의 12
1.2 고전논리학의 전제 14
1.3 결정가능한 진술 15

2. 논리학을 위한 사전지식 17
2.1 논리와 궤변 17
2.2 비형식논리학과 형식논리학 18
2.3 명제논리와 술어논리 20
2.4 구문론과 의미론 22
2.5 대상언어와 메타언어 24

3. 명제논리의 구문론 28
3.1 기본기호의 도입 28
3.2 표현과 정식 30
3.3 문장기호와 보조기호의 기능 32

4. 명제논리의 의미론 34
4.1 부정 35
4.2 연언 38
4.3 선언 39

6 고전논리학과 대화논리학
4.4 조건 42
4.5 쌍조건 45
4.6 셰퍼막대기와 퍼스화살표 47
4.7 연결사의 진리함수적 해석 49

5. 명제논리 논증의 타당성 51

5.1 진리값매김, 만족시킴, 모형 51
5.2 항진, 우연, 모순 52
5.3 고전적 명제논리의 결정가능성 54
5.4 타당성의 정의 54
5.5 타당성과 항진성과의 관계 57

6. 명제논리의 모형이론 60
6.1 표준식 61
6.1.1 연언표준식 61
6.1.2 선언표준식 62
6.1.3 변환방법 62
6.2 Q-분석 63
6.3 약식진리치분석 65
6.4 간접증명 66

7. 명제논리의 증명이론 70
7.1 증명이란? 70
7.2 자연연역 73
7.2.1 추론규칙 74
7.2.2 대치규칙 75
7.2.3 규칙의 적용 76
7.2.4 조건증명규칙 78
7.2.5 귀류법과 간접증명 81
7.3 진리나무 83
7.3.1 진리나무의 특징 83
7.3.2 진리나무의 원리 83
7.3.3 진리나무의 전개규칙 84
7.3.4 진리나무의 사용 순서 87

차례 7
 8. 술어논리의 구문론 89
8.1 기호의 도입 89
8.2 문장형식, 문장, 정식 93
8.2.1 문장형식 93
8.2.2 자유변항과 구속변항 94

9. 술어논리의 기호화 96
9.1 양화사 문장의 논리구조 96
9.2 양화사 변형규칙 98
9.3 양화사 영역의 제한 101
9.4 다중양화 102

10. 술어논리의 의미론 105

10.1 양화사의 의미 105
10.2 모형이론 106
10.2.1 해석과 모형 108
10.2.2 모형이론과 논리적 참 110

11. 술어논리의 자연연역 111

11.1 완전성과 결정불가능성 111
11.2 술어논리의 추론규칙 112
11.2.1 보편양화사 제거Universal Instantiation(UI) 112
11.2.2 존재양화사 도입Existential Generalization(EG) 113
11.2.3 보편양화사 도입Universal Generalization(UG) 115
11.2.4 존재양화사 제거Existential Instantiation(EI) 118
11.2.5 양화사 변형규칙 121
11.3 술어논리의 분배와 결합관계 122
11.3.1 ∀x(Ax∧Bx)≻≺∀xAx ∧∀xBx 123
11.3.2 ∀xAx ∨ ∀xBx⊁≺∀x(Ax∨Bx) 123
11.3.3 ∀x(Ax→Bx)⊁≺∀xAx → ∀xBx 124
11.3.4 ∃x(Ax∧Bx)⊁≺∃xAx ∧∃xBx 125
11.3.5 ∃x(Ax∨Bx)≻≺∃xAx ∨ ∃xBx 126
11.3.6 ∃xAx→∃xBx⊁≺∃x(Ax→Bx) 127

8 고전논리학과 대화논리학
12. 술어논리의 진리나무 129
12.1 술어논리의 전개규칙 129
12.2 진리나무 사용 순서 131

13. 대화논리학 134

13.1 발상 137
13.2 대화규칙의 결정 141
13.2.1 운영규칙 141
13.2.2 진술규칙 146
13.2.3 단위명제규칙(7번째 운영규칙) 148
13.3 명제논리 대화들 152
13.4 술어논리 155
13.5 함축, 동치 156
13.6 대화논리학의 증명체계 158

부록: 논리와 투기 160

참고문헌 171
찾아보기

차례 9
규
칙은 놀이에서 교육의 한 보조물일 수 있다. 그것은 학습자
에게 전달되며, 학습자는 그것의 적용을 연습한다. —또는
그것은 놀이 자체의 한 도구이다. —또는: 규칙은 교육에서도 놀이
자체에서도 사용되지 않는다. 또한 그것은 어떤 하나의 규칙 목록
에 기록되어 있지도 않다. 우리는 다른 사람들이 놀이를 어떻게 하
는지를 구경함으로써 놀이를 배운다. 그러나 우리는 그 놀이가 이
러이러한 규칙들에 따라 행해지고 있다고 말한다. 왜냐하면 어떤
관찰자가 그 놀이의 실천으로부터 규칙들을—그 놀이 행동들이 따
르는 어떤 하나의 자연법칙처럼—읽어 낼 수 있기 때문이다. ——
그러나 이 경우에 그 관찰자는 놀이하는 사람들의 잘못과 올바른
놀이 행동을 어떻게 구별하는가? (비트겐슈타인 『철학적 탐구』§54)
I. 준비
1. 고전논리학과 비고전논리학

1.1 고전논리학의 정의

고전논리학古典論理學/classical logic이라 함은 진리값truth value을 갖고

있다고 간주되는 문장sentence(진술statement, 명제proposition)1)들을 위
한 논리학의 통칭이라고 할 수 있다.2) 바꿔 말해 “모든 문장은 참
아니면 거짓이다”라는 2가원칙二價原則/bivalenc principle이 적용될 수
있는 진술들을 위한 논리학이다. 다른 한편 1907년 네덜란드의
수학자이자 논리학자인 브라우어Brouwer가 “지지할 수 없는 논리적
원칙De onbetrouwbaarheit der logische principes”이라는 그의 유명한 논문3)
에서 고전논리의 핵심원칙인 배중률排中律/tertium non datur의 무제한적
사용에 설득력 있는 비판과 대안을 제시한 이후, 20세기에는 직관
주의intuitionism라는 명칭4) 하에 비고전논리학nonclassical logic이 본격적

1) 이 책에서는 ‘문장’, ‘진술’, ‘명제’를 모두 동의어로 사용한다. 언어철학에서는

이들 간에 다음과 같은 구별을 하기도 한다. 이런 견해에 따르면 칠판에 “비
가 온다.” “비가 온다.”, “It is rainig.”, “Es regnet.”라고 쓰여 있다면, 세 개
의 문장, 네 개의 진술 그리고 한 개의 명제가 표현되었다고 본다. 즉 문장은
일종의 유형type이며, 진술은 구체적인 시간과 장소에서 발화 내지는 쓰인 것
으로서 개별자token이다. 명제는 진술이나 문장의 의미라고 보는 것이다.
2) ‘아리스토텔레스 논리학’이라 불리는 정언삼단논증定言三段論證/categorical syllogism을
고전논리학과 혼동하는 경우가 있다. 정언삼단논증은 고전논리학의 일부이지
만 그 역은 성립하지 않는다. ‘고전’이라는 표현에 대한 오해이다.
3) Tijdschrift voor wijsbegeerte(철학잡지), 2, 1908, 152-158쪽.
4) 직관주의란 자연수만이 우리의 직관에 주어졌고, 나머지 모든 수는 만들어졌다
고 본다. 여기서 직관에 주어졌다는 표현이 애매하다는 비판이 많이 제기되었
으나, 이 문제는 현대의 직관주의자들에 의해 해결되었다. (부록의 로렌젠 논

12 고전논리학과 대화논리학
으로 연구되기 시작하였다. 이때 배중률이란 “어떤 문장 혹은 그
문장의 부정否定/negation 중 하나는 참이며 제3의 가능성은 없다”는
원칙을 말한다. 브라우어는 그리스 시대의 수학이 유한한 과정을5)
거쳐 문제를 해결해야 한다는 의미에서 구성적構成的/constructive이었
고, 따라서 배중률을 논리적 원칙으로 도입할 수 있는 반면, 19세
기 말 독일의 수학자 칸토르Cantor가 무한집합을6) 수학의 영역에
도입하여 고전수학의 구성주의적 특징이 더 이상 보장 되지 않음
에도 불구하고 배중률이 계속 통용되었다고 비판하였다. 이런 이
유로 브라우어는 “수학이 논리학에 근거하는 것이 아니라 논리학
이 수학에 근거한다”는 실용주의적pragmatic 사고로의 전환을 제창
하였다.7)

그러나 고전논리학은 직관주의 계열의 논리학이 출현하기 전에

형식적으로 다루어져 왔던 유일한 논리체계였다. 그러나 우리가
뒤에서 살펴볼 대화논리학對話論理學/dialogic logic은 직관주의 논리학을
완전하게 형식화 하였을 뿐더러,8) 고전논리학이란 대화논리학의
체계 내에서 특별한 경우로 파악할 수 있다. 이를 통해 고전논리
학의 의미론적, 방법론적, 인식론적 전제에 대하여 보다 투명한 조
감을 할 수 있게 되었다.

문 “논리와 투기” 참조.)

5) 그리스 수학의 주류는 기하학이었고, 이때 눈금 없는 자와 컴퍼스를 유한 번
사용하여 작도문제를 푸는 것이 관건이었다. 그러나 데까르트가 좌표를 발명
하여 기하학을 대수학으로 연결시키는 데에 성공함으로써, 수학의 주류는 기
하학에서 대수학으로 바뀌게 되었다.
6) 아리스토텔레스 이래, 무한은 끝이 나지 않는다는 관점에서 가무한可無限
/possible infinity으로만 이해되었으나 칸토르는 무한이 실제로 존재한다고 보는
실무한實無限/actual infinity의 입장을 취했다.
7) 논리학에 대한 두 가지 입장이 있다. 즉 “인간의 행위를 논리학에 맞추어야 한
다(praxis on the top of theory)”는 관점과 “논리학을 인간의 행위에 맞추어
야 한다(theory on the top of praxis)”는 관점이 그것이다. 전자는 고전논리
학이, 후자는 직관주의 논리학이 취하고 있다.
8) 대화논리학은 독일 에어랑엔Erlangen 학파의 주요 철학자 P.로렌젠Lorenzen이 착
상하고, K.로렌즈Lorenz가 완전히 형식화하였다. 두 사람 모두 구성주의 철학을
지지한다.

1.고전논리학과 비고전논리학 13
1.2 고전논리학의 전제

2가성에 기반을 둔 고전논리학은 원칙적으로 그 진술의 진위眞僞

가 결정될 수 있는 경우에 한하여 그 정당성을 보장받을 수 있다
고 볼 수 있다. 그러나 고전논리학을 신봉하는 논리학자, 철학자들
은 고전논리학의 진리값 결정가능성에 대한 요구에 대하여 논의
자체를 차단시키거나 혹은 형이상학적 가정으로 넘어가려는 경향
이 있었다. 일반적으로 고전논리학의 전제인 “모든 진술은 참이거
나true 아니면 거짓이다false.”라는 2가원칙은 “결정가능하게 참이거
나decidably true 아니면 결정가능하게 거짓이다decidably false”라는 이른
바 결정가능성을 수반하지는 않는다. 예를 들어 “모든 짝수는 두
개의 소수素數의 합으로 표현된다”는 골드바하의 추측Goldbach's
conjecture은 아직 연역적으로 증명되지도, 또 지금까지 검토한 모든
짝수의 경우에 있어서 경험적으로 반증되지도 않았다.9) 왜냐하면
모든 짝수가 다 검토될 수는 없기 때문이다.10) 바꿔 말해 우리는
골드바하의 추측에 대한 증명이나 반증을 위한 어떠한 확실한 수
단도 사실상 갖고 있지 못하다. 이 경우 골드바하의 추측에 대하
여 배중률을 적용하는 사람에게 그 정당성을 묻는다면, “골드바하
의 추측이 참 아니면 그 부정이 참이다.”라는 배중율을 적용한 대
답 이외에는 전혀 기대할 수 없다. 즉 동어반복同語反覆에 빠지며 이
것은 논리적으로 순환논증의 오류이다.11) 따라서 원칙적으로 우리
는 배중률이 우선 그 적용대상이 되는 진술의 진위가 현실적으로
결정가능 할 때에만 적용가능하다는 점을 주장할 수 있다.12) 문

9) 4=1+3, 6=1+5, 8=1+7, 10=3+7, 12=1+11, 14=1+13, … ,100=3+97,…

10) 비슷한 문제로 “모든 완전수는 짝수다.”라는 주장에 대해서는 아직 증명도
반증도 없다. 피타고라스가 처음 발견한 완전수란 자신을 제외한 약수의 합이
자신과 같은 수를 의미한다. 예를 들어 “6=1+2+3”, “28=1+2+4+7+14”임
으로 6과 28은 완전수다. 지금까지 확인된 모든 완전수는 짝수이지만, 홀수가
아니라는 증명이 없다. 알려진 것은 다만 (2n-1)이 소수일 때, 2n-1(2n-1)은 모
두 완전수라는 것이다. 이것은 등비급수의 합을 이용하면 쉽게 증명이 된다.
11) 로렌젠, 앞의 논문 참조.
12) 물론 고전논리학자들은 이러한 요구를 받아들이지 않는다. 즉 골드바하의 추
측은 수학의 세계에, 예를 들어 플라톤의 이데아의 세계에 이미 결정되어 있

14 고전논리학과 대화논리학
제는 결정가능한 진술이 무엇인가라는 점이다.

1.3 결정가능한 진술

우선 진술에 포함되어 있는 표현들의 의미가 언어공동체내에서

일의적一義的으로 결정되어 있어야만 한다. 예를 들어 미학적 혹은
윤리적 규범과 같이 가치론Axiology과 관련된 진술은 일반적으로 보
는 사람들의 관점에 따라 다르게 판단되어 그 진위가 항상 분명한
것이 아니다. 예를 들어 “신윤복申潤福의 「미인도美人圖」는 명작이
다!”, “배꼽티를 입고 다니는 것은 망측罔測한 행위이므로 금지시켜
야 한다!”는 주장들에 대하여 사회적 합의를 이루기는 쉽지 않다.
또한 일상적 맥락에서도 애매모호한 표현의 경우에는 진위판단이
결정될 수 없다. 예를 들어 “철수는 대머리다”는 주장에 대하여
보기에 따라 애매한 상황이 있을 수 있다. 언어사용의 정확성, 즉
간주관성間主觀性/intersubjectivity은 학문세계의 경우에도 항상 보편적으
로 보장되고 있는 것은 아니다. 한 개념을 서로 다른 의미로 사용
함으로써 무의미한 논쟁을 벌이는 경우는 실로 비일비재非一非再한
상황이다. 이점을 결정가능성의 의미론적semantic 전제라고 말할 수
있을 것이다.

다음으로 사실판단의 대상object과 사실판단의 수단methode이 일치

하는 경우 그 진위판단이 유보 내지는 포기될 수 있다. 잘 알려진
예로는 20세기 오스트리아 출신의 철학자 비트겐슈타인Wittgenstein
이『철학적 탐구Philosophische Untersuchungen』에서 거론한 프랑스 파
리에 보관되어 있던 미터원기Urmeter의13) 길이가 있다.

다는 형이상학적 가정을 한다. 다만 우리는 아직 그 수학적 진실을 발견하지

못하였을 뿐이라는 것이다. 이들의 견해에 의하면 마치 오랫동안 풀리지 않았
던 수학 상의 난제가 풀리는 경우가 있는 것처럼 골드바하의 추측도 언젠가는
진위가 판별될 수 있다는 것이다.
13) 미터원기는 국제도량형위원회가 1889년 백금-이리듐 합금으로 제작한 것으

1.고전논리학과 비고전논리학 15
 우리는 한 사물에 대해서는 그것이 1m라고, 또 1m가 아니라고도 진술할 수 없
는데, 그것은 바로 파리에 있는 표준미터이다. —그러나 우리는 물론 그로써 이
것에다 그 어떤 이상한 속성을 부여한 것이 아니다. 단지 미터자를 가지고 하
는 측정놀이에서 그것이 행하는 특이한 역할을 특징적으로 나타내었을 뿐이다.
(…) 언어 내에서 그것은 묘사의 대상이 아니라, 묘사의 수단이다. (…) 존재해
야만 하는 것으로 보이는 것은 언어에 속하는 것이다. 그것은 우리의 놀이 내
에서 하나의 범형範形, 즉 비교되는 어떤 것이다.14)

우리는 (결정, 측정, 판단)수단과 그 대상간의 독립성을 결정가

능성의 방법론적methodological 전제라고 부를 수 있다.

끝으로 결정가능성에 대한 가장 일반적인 전제로서 진술의 진위

가 유한한 절차를 거쳐서 결정되어야 한다는 주장이 있다. 앞에서
골드바하의 추측의 경우처럼 진술의 진위판단은 신神이 아니라 인
간이 하는 것이고 그런 의미에서 무한의 대상영역을 인간이 모두
찾아다니며 확인하거나 조감할 수는 없다. 무한한 대상영역을 전
제할 경우 진술의 결정가능성에 대한 직관주의의 비판을 그 인식
론적epistemological 전제라고 부를 수 있다. 여기서 인식론적이라 함
은 진술의 진위나 어떤 존재의 진위는 그것을 우리가 인식할 수
있는 수단이 있거나 유한한 절차를 걸쳐서 구성할 수 있음을 보여
줄 때에만 가능하다는 의미이다. 즉 이것은 구성주의 철학의 핵심
요구사항이다.15)

로서 단면이 X자이다. 1983년에 국제도량형위원회는 1m를 진공에서 빛이

1/299,792,458초 동안 진행한 거리로 재정의 하였다.
14) L. 비트겐슈타인, 철학적 탐구 이영철 번역, 서광사, 1994, §51. 비트겐슈
타인은 미터원기 이외에도 “자신만이 알고 있는 사적 감정私的感情/private
sensation” 역시 그 동일성 판단을 시도할 경우, 대상과 수단이 일치한다고 보
고 있다. 즉 “지금 이 묘한 감정은 과거에도 한번 느낀 적이 있었다”라고 할
때 우리는 어떤 기억을 떠올린다. 그러나 나의 감정이 완전히 사적일 때는 그
기억행위(판단대상)의 정확성을 판단하기 위한 유일한 방법은 과거로 돌아가
현재의 기억과 비교하는 것이다. 그러나 바로 그 과거로 돌아간다는 것이 지
금의 기억행위(판단수단) 자체이다.
15) 위에서 언급한 진술의 결정가능성의 전제조건을 만족하지 못하더라도 고전논
리학은 존재론적(형이상학적) 가정으로 넘어가려 함은 이미 말한 바와 같다.

16 고전논리학과 대화논리학