대량의 수들을 고속으로 계산하다 – 계산기의 등장

수학자들은 자질구레한 일상적인 계산들을 처리해줄 기계를 늘 꿈꾸어왔다. 계산에 시간을 덜 들일수록 생각에 시간을 더 사용할 수 있기 때문이다. 선사시대부터 나무막대와 조약돌이 셈의 보조 수단으로 쓰였고 돌무더기는 마침내 주판셈으로 발전했다. 주판셈은 주판알이 막대를 따라 움직이며 수의 자릿수를 나타낸다. 특히 일본인들에 의해 고도로 발전한 주판셈은 전문가의 손으로 기본적인 산수를 재빠르고 정확하게 실행할 수 있었다. 1950년 무렵까지도 일본 주판셈은 기계적인 손 계산기보다 성능이 뛰어났다.

꿈이 실현되다? 
21세기가 도래하자 전자컴퓨터의 출현과 집적회로 IC의 광범위한 사용으로 인해 기계의 계산 능력은 크게 높아졌다. 이러한 전자 장치는 인간의 두뇌나 기계적 장치보다 훨씬 빨랐다. 오늘날에는 매초에 수십억 또는 수조 번의 산수 연산 실행은 흔한 일이다. 내가 아무리 빠르게 계산해본들 IBM의 블루 진/L은 초당 천조 번의 계산(부동소수점 연산)을 수행할 수 있다. 게다가 오늘날의 컴퓨터는 기억 용량이 방대해 책 수백 권에 달하는 정보를 저장할 수 있다. 컬러그래픽도 컴퓨터의 성능 덕분에 최상의 수준에 도달했다.

컴퓨터의 등장
초기의 기계는 그다지 대단하지는 않았지만 그래도 엄청난 시간과 수고를 아끼게 해주었다. 주판 다음으로 가장 먼저 개발된 것은 네이피어의 뼈 내지 네이피어의 막대다. 이것은 네이피어가 로그를 발명하기 전에 고안한, 눈금이 표시된 막대 계산 장치로서, 긴 자릿수의 숫자를 곱하는데 쓰인 보편적인 계산 장치였다. 이제 종이와 연필 대신에 막대를 사용하게 되자 숫자를 적는 데 드는 시간이 절약되었다. 하지만 여전히 손계산을 모방한 것에 불과했다.

1642년 파스칼이 최초라고 불릴만한 기계적 계산기를 발명했다. 산수 기계라고 불린 이 장치는, 파스칼이 아버지의 계산을 돕기 위해 만든 것이었다. 덧셈과 뺄셈을 할 수 있었지만 곱셈과 나눗셈은 할 수 없었다. 여덟 개의 회전 눈금판이 있었기에, 여덟 자리의 수를 다루기에 효과적이었다. 10여 년 후에 파스칼은 비슷한 장치를 50개 만들었는데, 대다수는 오늘날까지도 박물관에 보관되어 있다.

1671년 라이프니츠는 곱셈용 계산기를 설계했고, 1694년 실제로 제작한 다음 이렇게 말했다. ‘뛰어난 사람이 노예처럼 장시간 힘겹게 계산하는 것은 무가치하다. 기계를 사용한다면 그런 일은 아무한테나 맡겨도 안전하게 된다.’ 그는 자신의 기계를 독일어로 슈타펠발체고 명명했다. 단계별 계산기라는 뜻이다.

그의 기본 아이디어는 후계자들한테도 널리 이용되었다.
계산 장치를 위한 가장 야심찬 제안을 내놓은 사람은 찰스 배비지였다. 1812년 그는 이렇게 말했다.
나는 케임브리지에 있는 해석학 협회의 연구실에 앉아 있었다. 책상에 앉아 반쯤 졸고 있었고, 내 앞에는 로그 도표가 펼쳐져 있었다. 어떤 회원이 내 연구실로 와서 꾸벅꾸벅 졸고 있는 내 모습을 보고서 이렇게
외쳤다. “이런, 지금 무슨 꿈을 꾸고 있습니까?” 나는 이렇게 대답했다.

(로그 도표를 가리키며) “이런 도표들을 전부 기계로 계산할 수는 없나 생각하고 있었습니다.”
배비지는 평생 이 꿈을 좇았는데, 마침내 시제품을 만들고 차분 기관이라고 명명했다. 그는 더 정교한 기계를 만들 수 있도록 정부에 지원금을 요청했다. 그의 가장 야심찬 프로젝트인, 해석 기관은 사실상 프로그램이 가능한 기계적 컴퓨터였다. 이 기계들이 실제로 제작되지는 않았지만 여러 구성 요소들은 만들어졌다.

현대에 와서 재구성된 차등 기관이 런던의 과학협회에 소장되어 있으며, 실제로 작동된다. 어거스타 에이다 러브레이스는 최초의 컴퓨터 프로그램을 작성하여 배비지의 연구에 일조했다.

최초의 대량생산 계산기인 아리스모미터는 1820년에 토머스 드 콜마가 제작했다. 계단형 드럼 기계장치를 장착한 이 계산기는 1920년까지 제작되었다. 그다음 중요한 단계는 스웨덴 발명가 윌고트 T. 오드너의 바람개비형 계산기였다.

그의 계산기는 여러 제작자들이 만든 수십 가지 (비록 수백 가지는 아니지만) 모델의 바탕이 되었다. 장치의 동력은 사람이 제공했는데, 사람이 손잡이를 돌리면 0~9의 숫자가 표시되어 있는 일련의 원반이 회전하는 방식으로 작동했다. 능숙해지면 복잡한 계산도 매우 빨리 처리할 수 있었다. 제2차 세계대전 중에 원자 폭탄을 만들기 위한 맨해튼 프로젝트에서 과학 및 공학 계산도 그런 장치를 이용해 수행되었다. 이 장치들은 주로 젊은 여성들로 이루어진 ‘계산원’ 분대가 조작했다.

1980년대에 들어서자 저렴하면서도 성능이 뛰어난 전자식 컴퓨터가 도입되었고, 기계적 계산기는 쓸모가 없어졌다. 하지만 그 이전까지만 해도 경제 및 과학 분야에 이러한 계산기가 널리 쓰였다.

계산기는 단순한 산수 이상의 역할을 한다. 왜냐하면 많은 과학 계산은 일련의 긴 산수 연산을 통해 수치적으로 구현될 수 있기 때문이다. 가장 초기의 수치적 방법은 방정식을 매우 정확하게 푸는 것으로서 뉴턴이 고안했다. 따라서 그의 이름을 따서 뉴턴의 방법이라고 불린다. 이 방법은 방정식 f(x)=0을 풀기 위해 일련의 연속적인 근사치를 계산하는데, 그 각각은 이전 근사치를 바탕으로 하여 값을 개선해나간다. 어떤 초기의 추측치 x₁에서 시작하여 향상된 근사치 x₂, x₃, …, x_n, x_n+1을 아래 공식으로 얻는다.

여기서 f’는 f 의 도함수다. 이 방법은 해 근처의 곡선 y=f (x)의 기하학적 성질에 바탕을 두고 있다. 점_xn+1은 x_n에서 곡선의 접선이 x축과 만나는 교점이다. 그림에서 보이듯이, 이 점은 원래의 점 x_n보다 x에 더 가깝다.

수치적 방법의 두 번째로 중요한 응용 사례는 미분방정식이다. 다음 미분방정식을 푼다고 하자.

여기서 시간 t=0에서 x=x₀이다. 오일러가 내놓은 가장 단순한 방법은 dx/dt를 [x(t+3)-x(t)]/ε 로 근사하는 것이다. 여기서 ε은 매우 작은 값이다. 그러면 이 미분방정식의 근사치는 다음 형태를 띤다.

x(0)=x₀부터 시작하여 차례차례 f (ε), f (2ε), f (3ε) 등을 구해나가고, 결국에는 일반적으로 임의의 정수 n(n〉0)에 대하여 f (nε)를 구한다. ε에 대한 전형적인 값으로 가령 10^-6을 대입할 수 있다. 그러면위의 식을 백만 번 반복하면 x(1)이 얻어지며 다시 백만 번을 반복하면 x(2)가 얻어진다. 이런 방식으로 x(3), x(4) 등이 계속 얻어진다. 오늘날의 컴퓨터로 백만 번 계산은 사소한 일이기에 이 정도 문제는 거뜬히 해결할 수 있다.

하지만 오일러 방법은 충분히 만족스럽기에는 너무 단순한 발상이다.
따라서 더 나은 방법들이 수없이 많이 개발되었다. 그중 최상의 방법으로 알려진 것이 룽게-쿠타 방법이다. 독일 수학자 카를 룽게와 마르틴 쿠타의 이름을 딴 명칭이다. 둘은 이 방법을 1901년 처음 고안했다.

그중에서 가장 유명한 이른바 사차 룽게-쿠타 방법은 공학, 과학 그리고 이론적인 수학에 매우 널리 쓰이고 있다. 현대에는 비선형 역학의 필요성이 대두되면서 여러 정교한 방법들이 고안되었다. 이들 방법은 정확한 해와 관련된 어떤 구조를 보존함으로써 긴 시간 동안 오류가 축척되는 것을 방지한다.

예를 들면 마찰이 없는 역학계에서는 총 에너지가 보존된다. 각 단계별로 에너지가 정확히 보존되도록 해주는 수치적 방법을 고안할 수 있다. 이런 절차는 계산된 해가 (마치 시계추가 에너지를 잃으면서 서서히 멈추는 것처럼) 정확한 해에서 서서히 멀어질 가능성을 방지한다.

하지만 더욱 정교한 방법은 심플렉틱 적분기인데, 이것은 해밀턴 방정식의 심플렉틱 구조를 명시적이고도 정확히 보존함으로써 미분방정식의 역학계를 푼다. 해밀턴 방정식의 심플렉틱 구조란 두 가지 유형의변수, 위치 및 운동량에 적합하게끔 만들어진 흥미로우면서도 매우 중요한 유형의 기하학이다.

심플렉틱 적분기는 특히 천체역학에 중요한 역할을 한다. 가령 천문학자들은 수십억 년의 태양계에서 행성들의 운동을 추적하기를 원할 것이다. 심플렉틱 적분기를 사용하여 잭 위즈덤과 자크 라스카 등의 천문학자들은 다음 사실을 밝혀냈다.

즉 태양계에서 장기적인 행동은 카오스적이고, 천왕성과 해왕성은 예전에는 지금보다 태양에 훨씬 더 가까이 있었으며, 수성의 궤도가 차츰 금성의 궤도쪽으로 이동하고 있기에 결국에는 한두 개 정도의 행성이 태양계 밖으로 완전히 나가버릴 수도 있다. (수성은 태양에서 제일 가까운 궤도를 돌고 금성이 그 다음 가까운 궤도를 돌고 있다. 따라서 차츰 행성의 궤도가 바깥으로 향하니 태양계 제일 바깥쪽의 한두 개 행성이 태양계를 빠져나갈지 모른다는 말이다_옮긴이). 그런 장시간에 걸친 결과를 정확하게 알아낼 수 있는 방법은 오직 심플렉틱 적분기뿐이다.