[서평] 피터 코브니, 로저 하이필드 <복잡성의 무한한 지평>

 

Peter Coveney & Roger Highfield, Frontiers of Complexity

 

"컴퓨터 통해 자연의 복잡성 조명"

 

 

인간의 의식이 언젠가는 자연의 모든 진리를 파악할 수 있게 되리라는 믿음이 과학혁명의 밑받침이 되었다. 초기의 과학혁명에 공헌한 많은 사람들(르네 데카르트, 프랜시스 베이컨 등)이 이런 믿음을 제창했지만 이 믿음을 참으로 많은 사람들의 마음속에 심어준 것은 아이작 뉴턴이었다. 천체의 운행과 일반 물체의 운동을 한번에 묶어 깔끔하게 설명해낸 뉴턴의 운동 법칙은 플라톤 이래의 꿈에 새로운 힘을 불어넣었다. 자연의 원리는 단순한 아름다움 그 자체며 인간의 마음을 가리는 꺼풀을 벗겨내기만 하면 그 원리와 만날 수 있다는 희망이었다.

 

이 믿음을 바탕으로 한 근대과학의 발달은 환원주의의 길을 열었다. 아무리 복잡한 현상이라도 단순한 요소들로 분석해 개별적으로 파악한 다음 그들을 총합함으로써 현상의 참된 모습을 얻을 수 있다는 것이었다.

 

그리고 결정론의 성향이 있었다. 물질계의 현상은 그 안의 물질적 조건과 보편적 자연법칙에 따라 결정되는 것이며 이 양자를 완전히 이해하면 진실을 얻을 수 있다는 것이었다.

 

19세기 말까지 과학기술의 발달은 이 믿음을 넓히고 다져온 과정이었다. 그 성공은 분자와 원자의 발견에서 절정에 이르렀다. 그러나 20세기에 접어들며 원자의 내부에 눈을 돌린 첨단 과학자들은 더 이상 뉴턴의 정원 속에만 머물 수 없게 되었다.

 

상대성이론, 양자역학 등 뉴턴 체제를 넘어서려는 20세기 과학자들의 노력은 결정론에서 벗어나기 시작했다. 가장 극적인 것이 하이젠베르크의 불확정성 이론(1927년)이었다. 운동량, 위치 등 기본적 물질조건이 독립된 값을 가지지 않는다는 그의 관점은 과학활동의 바탕이 돼온 관측의 의미를 흔들어놓았다.

 

20세기 후반에는 환원주의를 벗어나는 성향이 여러 방면에서 일어났다. 한편에서는 핵무기와 환경 파괴의 위협에 따라 자연의 '정복'을 바라보던 과학의 목적에 회의가 일기 시작했다. 다른 한편에서는 컴퓨터를 통한 분석 능력의 발전이 역설적으로 자연에 대한 분석적 연구의 한계를 알려주기 시작했다. 특히 생명현상의 복잡성을 더욱더 세밀히 관찰하게 됨에 따라 그 복잡성이 기술적 노력으로 극복할 수 있는 대상이 아님을 사람들은 깨닫기 시작했다.

 

코브니와 하이필드는 1990년의 첫 공동저작 <시간의 화살>에서 결정론적 과학의 한계를 폭넓게 보여준 바 있다. 이번에 5년 만의 공동작업으로 낸 <복잡성의 무한한 지평>에서 그들은 최근 반세기간 이뤄진 자연의 복잡성에 대한 인식의 발전을 컴퓨터의 개념 발전을 통해 살펴본다.

 

이 편력에 저자들이 길잡이로 삼은 것이 '인공생명의 아버지' 요한 폰 노이만(1903~1957년)과 '인공지능의 아버지' 앨런 튜링(1912~1954년)이다. 그들은 각각 그리 길지 않은 일생의 끝부분을 컴퓨터 개발에 바쳤다. 그러나 컴퓨터의 가능성을 내다본 그들의 통찰력은 당대에 개발된 컴퓨터의 형태에 그치지 않고 40여 년이 지난 오늘날까지 컴퓨터의 미래를 비춰주고 있다.

 

헝가리 출생의 미국 수학자 폰 노이만은 1944년 여름 개발 중의 ENIAC 컴퓨터를 참관하고 이에 자극받아 그 1년 후 EDVAC 컴퓨터의 개념을 발표했다. ENIAC이 기존 개념의 '계산기'를 전자화한 것에 불과한 데 반해 EDVAC은 프로그램을 기계 속에 저장함으로써 본격적 컴퓨터의 영역을 열었다. 이것은 연산명령 자체를 연산 대상인 숫자, 문자들과 같은 차원의 수학적 요소로 처리한다는 뜻으로, 컴퓨터언어의 출발점이 된 것이다.

 

폰 노이만은 1948년 생명체의 기본 기능인 자기복제 과정의 수학적 원리를 발표했다. 그리고 EDVAC이 만들어진 다음해인 1953년 자기복제의 컴퓨터 모델을 만들어보였다. 그 후 이 원리는 한편으로 생명 연구의 한 분야로 발전해 나가면서 다른 한편으로는 컴퓨터 설계 및 프로그램 개발에 활용됐다. 컴퓨터 바이러스나 그 숙주가 되는 컴퓨터나 모두 생물체의 성격을 띠게 된 것도 바로 그가 내다본 방향으로 이뤄진 일이다.

 

영국 수학자 튜링은 폰 노이만보다 늦게 실제 컴퓨터 제작에 착수했다. 그러나 그는 오래 전부터 진보적인 컴퓨터 개념을 형성해 놓고 있었다. 1937년에 발표했던 UTM(Universal Turing Machine)이 그것이다. UTM이란 모든 종류의 수학적 연산을 행하는 기계의 가능성을 말한 것이었으니, 각각의 연산을 행하는 개별적 프로그램과 그것을 구사하는 범용컴퓨터의 개념을 포괄하는 것이었다.

 

튜링은 인간의 두뇌를 컴퓨터의 모델로 삼았다. 그래서 그는 컴퓨터의 작동이 일관된 지시에 따라 순차적으로만 움직이지 않는 비선형(非線型) 구조를 생각했다. 이것은 1960년대 이래 컴퓨터의 발달이 밟아온 길이 되었다. 또 경험을 통해 일하는 방법을 '배워 나가는' 컴퓨터를 그는 생각했다. 이것은 더욱 최근에 컴퓨터 발달의 중요한 진로로 열려가고 있는 길이다.

 

최초의 전자계산기 ENIAC은 환원주의적-결정론적-선형적 사고의 산물이었다. 이로부터 전혀 새로운 컴퓨터의 길을 열어준 대표적 인물이 튜링과 폰 노이만이었다. 길이라기보다 문을 열어주었다고 하는 편이 옳을 것이다. 한 걸음 한 걸음 딛을 자리를 일러주기보다 무한한 복잡성의 세계로 컴퓨터의 눈길을 돌려준 것이니까.

 

환원주의 패러다임에 대해 산발적으로 일어나는 도전이 이제 컴퓨터 기법을 통해 생명의 신비를 중심으로 뭉쳐지고 있다. 다음 단계 패러다임이 어떤 것이 될지는 아직 명확치 않다. 언젠가는 자연의 비밀을 신에게 나눠받아 '인간 독재'의 자연계를 만들겠다는 오만함이 한풀 꺾이고 있다는 것, 그것만은 분명하다. (1995년 12월 24일)