[깁스 엔트로피]
깁스는 1902년에 출판한 저서 [통계역학의 기본 원리(Elementary Principles in Statistical Mechanics)]의 14장 “열역학적 유추(Thermodynamic Analogies)”에서 상호 작용하는 입자의 기계 시스템의 엔트로피를 나타내는 다양한 기능에 대해 논의했다. 그런데, 이들 중 어느 것도 현재 일반적으로 인정되는, 즉 식 SG = − k Σi Pi ln Pi (여기서 P는 확률이다. 그리고 이 식은 당연히 볼츠만의 엔트로피 식에 대응하기도 하지만, 놀랍게도, 클로드 섀논이 1948년에 발표한 논문인 [정보통신의 수학적 이론(A Mathematical Theory of Communication)]의 정보 엔트로피 식과 동일하다!)으로 표현되는 깁스 엔트로피와 관련된 기능은 아니다. 깁스는 볼츠만 상수를 사용한 형태인 방정식으로 이것을 표현하지는 않았지만, 그는 이와 동등한 형식의 표현이 엔트로피와 관련된 고유한 속성을 가지고 있음을 보여주었다. 깁스는 다른 색의 공들이 섞여있는 항아리에 대한 설명에서 다음과 같이 언급했다.
본질적으로는 동일하지만 그 위상이 다르게 분포될 수 있는 시스템의 둘 이상의 앙상블이 통합되어 단일 앙상블을 형성하는 경우, 그 결과로 얻을 수 있는 앙상블의 확률 계수(probability-coefficient)는 통합되기 전의 앙상블들이 가졌던 확률 계수의 선형 함수이다. 통합 결과로 얻을 수 있는 앙상블의 평균 확률 지수(average index of probability)는 통합되기 전의 앙상블 평균 지수의 동일한 선형 함수보다 클 수 없다. 통합되기 전의 앙상블이 위상적으로 유사하게 분포된 경우에만 동일할 수 있다.
깁스가 의미하는 바는 다음과 같다: 상태(state)의 확률은 해당 상태의 앙상블에서 구성원을 무작위로 선택할 확률이다. 총 100개의 공이 들어 있는 항아리에 10개의 빨간 공이 있다면 빨간 공을 고를 확률은 10분의 1이다. 이제 각기 다른 수의 다양한 색상의 공이 들어 있는 다양한 항아리의 내용물을 추가한다고 가정한다. 모든 항아리의 혼합된 내용물에서 무작위로 선택하는 경우 빨간 공을 가져갈 확률 P는 각 개별 항아리의 확률 Pi에 항아리 번호 i의 총 공 수 Ni로 가중치를 적용한 합계이다. 각각의 개별 항아리에 동일한 비율의 빨간 공이 있는 경우 내용물을 혼합해도 임의의 단일 시도에서 빨간 공을 선택할 확률이 변경되지 않는다. 즉, Pi = Nredi / Ni이고 P = Σi ci Pi (여기서 ci는 Ni / Σ Ni이다.)이다.
그런데, 특정한 값 u의 평균값 u(average)는 지난 글(과학, 알고싶다(208))에서 살펴본 식 u(average) = ∫all phases · · · ∫ u e(ψ – ε) / Θ dp1 · · · dpn dq1 · · · dqn 으로 표현되고, 깁스는 확률 지수(index of probability) η를 P에 대해 자연 로그를 취한 값, 즉 ln P로 사용했으므로, η(average) = ∫all phases · · · ∫ Pi ln Pi dp1 · · · dpn dq1 · · · dqn 이다.
깁스 부등식(Gibb’s inequlity)로 알려져 있는 정리는 다음과 같다.
∫all phases · · · ∫ Pi ln Pi dp1 · · · dpn dq1 · · · dqn ≤ Σi [ci ∫all phases · · · ∫ Pi ln Pi dp1 · · · dpn dq1 · · · dqn]
증명은 놀라울 정도로 간단하다. 임의의 두 확률 P1와 P의 함수인 함수 Q1에 대해서 Q1 = P1 ln P1 − P1 ln P − P1 + P 이라는 방정식으로 정의한다. 그러면, (dQ1 / dP1)P = ln P1 − ln P 이고, (d2Q1 / dP12)P = 1 / P1 이 된다.
P1과 P는 확률이기 때문에 0과 1 사이에 있어야 하기 때문에 둘 다 양수이고, P1 = P인 경우에는 Q1과 dQ1 / dP1 모두 0이 된다. 그리고, 2차 도함수 d2Q1 / dP12가 항상 양이기 때문에 Q1이 가질 수 있는 가장 낮은 값은 0이어야 하며, P1과 P가 같은 값이 아니면 Q1은 양수여야 한다. 일련의 함수 Q2, Q3 등을 Q1과 동일한 방식으로 정의한 다음, 전체에 대해서 비례 관계에 있도록 가중치를 적용하여 모두 더하면, 각 Qi가 0인 특별한 경우를 제외하고, 그 값은 양수여야 한다.
Σi ci Qi ≥ 0 (여기서, Σi ci = 1)
그런데, 각 ci Pi의 값이 P가 되는 경우에는, ,
Σi ci Qi = Σi ci (Pi ln Pi − Pi ln P − Pi + P)
= Σi (ci Pi ln Pi) − Σi (ci Pi ln P) − Σi (ci Pi) + Σi (ci P)
= Σi (ci Pi ln Pi) − Σi (ci Pi ln P) − P + P Σi ci
= Σi (ci Pi ln Pi) − Σi (ci Pi ln P)
≥ 0
따라서 η라는 기대값을 뺀 것과 같은 깁스 엔트로피는 다음과 같다:
S = − ∫all phases · · · ∫ P ln P dp1 · · · dpn dq1 · · · dqn
위 식의 적분을 상태에 대한 합으로 대체하면, 이번 글의 처음 부분에서 언급했던 깁스의 엔트로피라고 불리는 식 SG = − k Σi Pi ln Pi 과 같음, 그리고 의심할 여지없이 정확함을 알 수 있다.
이 공식과 관련된 하나의 문제점은 지난 글(과학, 알고싶다(208))에서 언급한 coarse graining이라는 가정이 정당한가이다. 물잔에 담긴 잉크 방울의 비유로 돌아가서, 공간 영역에서 잉크 분자를 찾을 확률은 선택한 부피 요소의 크기에 따라 달라지며, 이 요소를 무한히 축소하여 분자보다 더 작은 부피 요소를 고려할 수도 있게 된다. 그런데, 식 SG = − k Σi Pi ln Pi 이 변경되기 위해서는 확률 Pi 가 어떤 유한한 크기의 부피 요소를 참조해야 하는데, 깁스는 이 부피 요소가 얼마나 큰지에 관해서 논의하지 않았다. 그렇지만, 식 SG = − k Σi Pi ln Pi 에 의해 계산되는 엔트로피는 실제로 크기 제한이 감소함에 따라 달라진다.
식 SG = − k Σi Pi ln Pi 의 수학적 속성은 독특하며, 클로드 섀논의 엔트로피를 포함하는 정보 이론(information theory) 분야에서 광범위하게 응용되고 있다. 모든 확률 분포에 대해 Σi Pi ln Pi (기호는 상황에 따라 다르게 사용할 수 있다.)라는 공식을 사용하여 일부 엔트로피를 계산할 수 있고, 이러한 엔트로피 유사(entropy analogues)는 Pi 의 모든 값이 동일할 때 부호에 따라 최대값 또는 최소값에 도달하는 속성을 갖게 된다. 동일한 확률 분포를 가지는 시스템에 대해서는 추가적인(additive) 특징을 가진다. 그러나 이렇게 계산된 엔트로피가 특정 물리적 의미를 갖는 열역학적 엔트로피(즉, 전통적인 엔트로피)와 같을 것이라는 확정적인 보장은 없으며, 깁스는 실제로 확률 분포가 차지하는 위상 공간 크기의 로그값 역시 엔트로피 유사라고 지적했다. 다양한 다른 형태의 표현이 엔트로피를 의미한다는 사실은, log(xy) 또는 x + y 유형의 표현에 대해서 1023 정도의 분자수에 대해 다른 종류의 분자들이 수백만 배 적은 경우 등을 포함하는 x >> y일 때는 그 값이 실질적으로 변경되지 않는다는 점을 감안한다면 실제로 놀라운 일이 아니다. 여러가지 형태의 식은 시스템의 분자 수가 많을 때 전통적인 엔트로피와 서로 매우 유사하다고 또는 동일하다고 할 수 있을 정도로 근사할 수 있지만 소수의 분자만 관련될 때는 매우 다르게 행동한다. 스털링의 근사(Stirling’s approximation)는 아보가드로의 수보다 훨씬 적은 수에 대해 매우 높은 정확도를 보여주지만 x < 10에 대해서는 정확도가 엄청 낮아진다. 깁스는 그의 계산의 통계적 특성을 정확한 의미를 파악하기 위해 특별한 주의를 기울였으며 유도된 표현식이 필수적으로 무한한 수의 자유도(infinite number of degrees of freedom)에 대한 극단적인 경우(limiting case)라는 점을 강조했다.
[에너지의 변화]
깁스는 또한 시스템의 총 에너지에서 예상되는 변화를 계산했다. 식 ε(average) = ∫all phases · · · ∫ ε e(ψ – ε) / Θ dp1 · · · dpn dq1 · · · dqn에 대해서, ψ의 값을 고정하고 Θ에 대해서 미분하면 다음과 같다.
dε(average) / dΘ = ∫all phases · · · ∫ {(ε2 – ψ ε) / Θ2) + (ε / Θ)(dψ / dΘ)} e (ψ −ε) / Θ dp1 · · · dpn dq1 · · · dqn
모든 위상 공간에 대한 적분 대신에 예상되는 값을 취하면,
dε(average) / dΘ = (ε(average)2 – ψ ε(average)) / Θ2) + (ε(average) / Θ)(dψ / dΘ)
또는 ε(average)2 = Θ2 (dε(average) / dΘ) + ε(average) (ψ – Θ (dψ / dΘ)) 임을 알 수 있다.
이때, ψ 및 Θ 값이 고정되어 있다면, η의 정의에 따라서, ε(average) = ψ – Θ η(average) = ψ – Θ (dψ / dΘ) 이므로, ε2(average) – ε(average)2 = {ε – ε(average)}2(average) = Θ2 (dε(average) / dΘ) 이다.
그리고, 정확히 같은 방법을 사용하여 운동 에너지(εp)와 포텐셜 에너지(εq)의 평균 제곱에 대해서 개별적으로 계산할 수 있다.
ε2p(average) – ε(average)p2 = {εp – ε(average)p}2(average) = Θ2 (dε(average)p / dΘ)
ε2q(average) – ε(average)q2 = {εq – ε(average)q}2(average) = Θ2 (dε(average)q / dΘ)
그런데, 운동 에너지의 평균값(εp(average)은 n Θ / 2와 같기 때문에, dε(average)p / dΘ = n / 2 임을 고려하면,
ε2p(average) = ε(average)p2 + Θ2 (dε(average)p / dΘ) = (n2 Θ2) / 4 + n Θ2 / 2 이다.
이는 평균 운동 에너지가 위상 공간의 구성(configuration) 또는 위치(position)와는 무관하지만 시스템의 자유도의 수(the number of degrees of freedom)에 따라 달라진다는 것을 보여준다. 여기서, 에너지의 평균 제곱 편차를 운동 에너지와 포텐셜 에너지에 대한 각각의 항으로 나누면, {ε – ε(average)}2(average) = {εp – ε(average)p}2(average) + {εq – ε(average)q}2(average) = Θ2 (dε(average)p / dΘ + dε(average)q / dΘ) 이다.
위 방정식을 ε(average)p2로 나누면, {ε – ε(average)}2(average) / ε(average)p2 = 2 / n + 4 / n2 (dε(average)q / dΘ) = 2 / n + 2 / n (dε(average)q / dε(average)p)가 되는데, 깁스는 이를 이용해서 이 양을 평균 운동 에너지와 비교하여 총 에너지가 얼마나 달라질 것으로 예상되는지 확인했다.
따라서 (운동 에너지에 따른 포텐셜 에너지의 변화가 극도로 크지 않는 한) 평균 에너지의 변화는 매우 큰 n에 대해 매우 작을 것이다. 반대로 n이 작을 때에는 에너지 변화가 매우 클 수 있으며, 이는 자유도가 매우 낮은 시스템의 통계적 역학을 분석하려고 시도할 때 중요한 결과를 가져오게 된다.
[케미컬 포텐셜(Chemical Potential)]
깁스는 화학 변화에 대한 열역학의 의미를 처음으로 고려한 사람이었는데, 이 분야에서의 그의 업적은 오늘날 화학 및 생화학 등 방대한 영역의 기초가 되었다. 깁스 업적의 이러한 측면은 그의 방법에 대한 유용한 통찰력을 제공하고 실험적으로 결정된 최소의 전제를 통한 수학적 추론의 힘을 보여준다. 깁스가 이끌어낸 대부분의 방정식이나 결론은 물질의 형태에 대한 특정 모델에 의존하지 않으며, 원자의 존재 여부는 전혀 관련이 없다.
지금까지 우리는 기체 샘플과 같이 화학적으로나 물리적으로 균일한 시스템을 고려했는데, 화학 반응의 경우에도 시스템을 여러 구성 요소로 고려해야 한다. 시스템의 조성은 각 성분 x의 몰수 nx로 정의할 수 있으며, 깁스 자유 에너지(G)는 광범위한 함수이므로 관심 시스템의 각 구성 요소의 양에 비례한다. 즉, 섭씨 20도, 기압 1기압에서 물 1kg에 소금 10g을 녹였다면 같은 조건에서 물 500g에 소금 5g을 넣은 것보다 두 배의 자유 에너지를 갖게 된다. 순수한 화합물의 경우 G를 온도와 압력의 간단한 함수로 쓸 수 있으며, 혼합물의 경우 역시 n1, n2 등으로 지정된 존재하는 모든 구성 요소의 비율의 함수로 G를 표현할 수 있다. 깁스 자유 에너지에 대한 방정식 G = H – T S는 조성의 변화를 허용하도록 수정되어야 하는데, G가 완전 함수(exact function)이므로, dG = V dp – S dT + (∂G / ∂n1) dn1 + (∂G / ∂n2) dn2 + · · · 인데, 이 방정식은 일반적으로 아래와 같이 표현한다.
dG = V dp – S dT + μ1 dn1 + μ2 dn2 + · · ·
여기서 μ가 바로 각 성분의 화학적 포텐셜이다. 이 화학적 포텐셜는 그 포텐셜이 높은 영역에서 포텐셜이 낮은 영역으로 이동하는 경향이 있는 구성 요소의 “탈출 경향(escaping tendency)”으로 설명되었다. 정확히 유사한 방식으로 열은 고온 영역에서 저온 영역으로 이동하는 경향이 있다. 일정한 온도와 압력에서 평형 상태에 있는 시스템의 경우 각 구성 요소의 화학적 포텐셜은 전체적으로 동일해야 한다. 화학적 포텐셜은 세기 성질(intensive property)을 가지며, 일정한 압력, 온도 및 구성에서 시스템에 추가된 물질의 몰당 시스템의 깁스 에너지 증가로 정의되는 양이다. 즉, 성분 i의 화학적 포텐셜은 다음 식으로 주어진다.
μi = (∂G / ∂ni )p,T,nj
여기서 nj는 구성 요소 i를 제외한 시스템의 모든 구성 요소의 몰 분율을 나타내며, 시스템에 추가된 구성 요소 i의 양 dni 는 전체 구성이 크게 변경되지 않도록 하기 위해 작아야 한다. 화학적 포텐셜은 화학 평형을 이해하는 데 필수적인 개념인데, 열역학 제3법칙과 관련된 화학적 포텐셜에 대해서는 다른 글에서 좀더 설명할 예정이다.
G는 p, T 및 ni의 함수이므로 이러한 변수의 지정된 값을 사용하여 시스템의 주어진 상태에서 시작할 수 있으며 차례로 각 변수를 변경하여 G를 변경할 수 있다. 편미분 계수(partial differential coefficients)는 각 변수의 주어진 변화에 대해 G가 얼마나 많이 변하는지 나타내는데, 두 구성 요소를 가지는 시스템의 경우 아래와 같이 표현된다.
dG = = (∂G / ∂T )p,ni dT + (∂G / ∂p )T,ni dp + (∂G / ∂n1 )p,T,n2 dn1 + (∂G / ∂n2 )p,T,n1 dn2
화학적 포텐셜은 부분 몰 자유(또는 깁스) 에너지(partial molar free (or Gibbs) energy)라고도 한다. 부분 몰량은 구성 요소의 변화 없이 시스템에 1몰의 구성 요소를 추가할 때 특정 특성의 변화를 나타내는데, 예를 들어 성분 i의 부분 몰 부피(Vi)는 다음과 같이 주어진다.
Vi = (∂V / ∂ni )p,T,ni
이것은 1몰의 물질 i가 매우 큰 시스템에 추가될 때 발생하는 부피 변화이며, 엔탈피 또는 엔트로피와 같이 크기 성질(extensive property)을 가지는 시스템의 속성은 동일한 방식으로 표현될 수 있다. 따라서, 전체 시스템 부피의 변화는 각 구성 요소의 양과 해당 부분 몰 부피의 변화에 의해 제공되므로(부분 몰 부피도 음수일 수 있는데, 예를 들어, 황산 마그네슘과 같은 일부 고체는 소량의 물에 첨가될 때 부피 감소를 유발한다.), 다음과 같이 표현된다.
dV = (∂V / ∂n1 )nj dn1 + (∂V / ∂n2 )nj dn2 + · · · = Σi=1m Vi dni (m개의 구성 요소로 구성된 시스템의 경우)
사고 실험을 통해서 우리는 시스템의 모든 구성 요소를 극소량 추가할 때 그 비율을 일정하게 유지하면 무에서 시작하여 시스템을 원하는 만큼 크게 만들 수 있다. 이러한 방식으로 시스템의 부피는 서로 다른 구성 요소의 기여도를 합산하여 표현할 수 있는데, 위의 식 dV = Σi=1m Vi dni 을 적분하면 아래의 식을 얻는다.
V = Σi=1m Vi ni = Σi=1m ni (∂V / ∂ni )
이때, 과정 전반에 걸쳐 구성을 일정하게 유지하므로 부분 몰 부피가 일정하다. 동일한 추론을 사용하여 광범위한 속성에 대해 유사한 방정식을 작성할 수 있다. 그런데, 부피는 개별 성분의 양의 함수이고, 바로 위에 있는 그들의 부분 몰 부피 방정식은 다음과 같이 미분된다.
dV = Σi=1m Vi dni + Σi=1m ni dVi
이 결과를 위의 식 dV = Σi=1m Vi dni 과 비교하면, Σi=1m ni dVi = 0 임을 알 수 있고, 이 결과를 두 구성 요소를 가지는 시스템의 경우에 적용하면, 아래와 같은 관계식을 얻는다.
(∂V2 / ∂n1)n2 / (∂V1 / ∂n2)n1 = – n1 / n2
이것은 시스템 내에서 각 구성 요소의 부분 몰 속성을 연결하는 관계의 예이다. 이러한 관계는 시스템의 크기 속성이기도 한 깁스 에너지의 경우에 특히 중요하다. 앞에서 언급했던 식 dG = V dp – S dT + Σi=1m μi dni 은, 온도와 압력이 일정한 조건에서 dG = Σi=1m μi dni 임을 알 수 있다.
부피의 경우에 사용된 추론을 동일하게 사용하여 이 방정식을 적분하면 다음과 같다.
G – Go = Σi=1m μi ni
(여기서 Go는 기준 상태(따라서 고정됨)에 있는 시스템의 자유 에너지이다.)
이 식을 다시 미분하면, 식 dG = Σi=1m μi dni + Σi=1m ni dμi 을 얻을 수 있고, 이 식을 식 dG = Σi=1m μi dni 과 비교하면, Σi=1m ni dμi = 0임을 알 수 있다.
이 결과는 깁스-두헴 방정식(Gibbs–Duhem equation)으로 알려져 있다. 시스템의 한 구성 요소의 자유 에너지가 증가하면 다른 모든 구성 요소의 자유 에너지의 합은 같은 양만큼 감소해야 함을 보여준다.
서로 다른 구성 요소의 화학적 포텐셜은, ni와 nj에 대해 식 dG = Σi=1m μi dni 을 두 번 미분함으로써 직접적으로 관련될 수 있다.
∂G / ∂ni = μi이고, 따라서, (∂2G / ∂ninj ) = (∂μi / ∂nj )p,T,nj
그런데, 미분이 모두 연속적이어야 하기 때문에, G는 ni 및 nj에 대해 어느 순서로든 미분될 수 있다. 즉, ∂2G / ∂ninj = ∂2G / ∂njni 이어야 하고, 따라서, (∂μi / ∂nj )p,T,nj = (∂μj / ∂ni )p,T,ni 임을 알 수 있는데, 이 관계식은 비에룸 방정식(Bjerrum equation)으로 알려져 있으며, 이는 시스템의 한 구성 요소의 화학적 포텐셜 변화를 시스템에 추가되는 다른 구성 요소의 양과 관련시킨다. 따라서 두 리간드(ligand)가 단백질에 결합하기 위해 경쟁하는 경우 한 리간드를 추가하면 다른 리간드의 자유 에너지(화학적 포텐셜)가 높아진다. 이와 같은 연결 관계는 효소의 활성 또는 다른 거대 분자의 특성이 경쟁적으로 작동하는 분자에 의해 제어되는 생화학 분야 등에서 특히 유용하다. 예를 들어, 생화학 시스템의 서로 다른 구성 요소는 종종 강하게 연결되어 각 상태 간에 스위치와 같은 동작을 생성하기도 한다.
참고로, 깁스-두헴 방정식의 유도로부터 화학적 평형 상태에 있는 시스템의 경우 구성 화합물 중 하나를 소량 첨가하면서 시스템을 본질적으로 변경하지 않는 이론적 가능성이 있음을 알 수 있다. 이는 작은 변화를 불러일으키고 변화가 0으로 감소하는 제한적 사례에서 시스템의 변화를 관찰하는 것으로, 수학적 유도 과정과 본질적으로 동일하다는 의미이다. 그런데, 중요하게도, 사실 물질은 세분화되어 있고 원자로 구성되어 있기 때문에 평형 시스템이 (거대 시스템이 아니라) 매우 작은 시스템인 경우에는 깁스-두헴 방정식이 더 이상 성립하지 않는다. 즉, 소규모 시스템은 거시적 규모에서 잘 작동하는 규칙을 따르지 않을 수 있다.
**********
깁스의 열역학과 관련된 세 번에 걸친 지금까지의 논의를 통해서, 깁스는 가장 단순한 가정과 함께 고전 역학부터 시작하여 실험적 열역학에서 발견된 것과 동일한 관계가 자연적으로 발생한다는 것을 보여주었다는 것이 분명함을 알 수 있다. 깁스는 통계 역학에 대해 매우 조심스럽게 접근하여 “물질적 신체의 구성에 관한 가설의 틀을 잡으려는 시도를 포기”했다. 이원자 기체(diatomic gas)의 실험적 열용량과 이론적 열용량 사이의 불일치에 주목하면서 깁스는 확실히 물질의 구성에 관한 가설에 자신의 작업을 의존하는 불안정한 기초 위에 건물을 짓고 있다고 말하기도 했다.
물질 자체에 대해 아무 것도 가정하지 않음으로써 깁스는 그가 빠질 수 있는 오류를 “전제와 결론 사이에 있으며, 이것은 대체로 피하고자 하는 사람이 조심스럽게 바랄 수 있는” 오류로 제한했다. 깁스의 연구를 프랑스어와 독일어로 번역한 두헴과 오스트발트도 마흐처럼 원자가설의 강력한 반대자가 된 것은 주목할 만하다. 통계역학에 대한 깁스의 공헌은 엄청나지만, 물질의 진정한 본질, 복사(radiation, 깁스는 자신의 작업 범위를 벗어난 것으로 명시적으로 언급함) 및 상수 k (또는 깁스의 표현에 의하면 K)의 값에 대한 문제를 아인슈타인과 플랑크에게 맡기게 된다.