← Back to Journals
추출학

굴절계와 TDS 측정의 물리학: 스넬의 법칙, Brix-TDS 변환 및 온도 보정 알고리즘

Published: 2026-06-15 | Read Time: 4분

스페셜티 커피의 정량적 평가와 추출 레시피의 표준화 과정에서 핵심 지표로 활용되는 총용존고형물(Total Dissolved Solids, TDS)의 계측은 광학 계측 공학의 정밀한 물리 법칙에 기반하고 있습니다. 디지털 커피 굴절계(Refractometer)는 시료 용액의 용질 농도에 따라 빛의 속도와 전파 경로가 변화하는 광학적 특성을 감지하여, 백분율 단위의 용존 성분 양을 정밀하게 산출합니다.

1. 스넬의 법칙(Snell's Law)과 굴절률(Refractive Index, n)의 물리적 상관성

빛이 진공 또는 공기 매질에서 고유한 물리적 밀도를 가진 액체 매질로 입사할 때, 경계면에서 위상 속도의 차이로 인해 진행 방향이 굴절하게 됩니다. 이는 광학의 기초 공식인 스넬의 법칙(Snell's Law)으로 기술됩니다:

sin θ1 / sin θ2 = v1 / v2 = n2 / n1

(여기서 θ1은 입사각, θ2는 굴절각이며, v1v2는 각 매질에서의 광속, n1n2는 매질의 고유 굴절률입니다). 공기의 굴절률(n1)을 약 1.0003으로 기준 잡았을 때, 순수한 물의 굴절률은 20°C 기준 nD = 1.3330입니다. 커피 용액 내에 다양한 수용성 물질(자당, 카페인, 유기산, 수용성 단백질 등)이 용해되면, 용액의 광학적 밀도가 상승하여 빛의 위상 속도(v2)가 감소합니다. 이에 따라 굴절률(n2)은 용액 내 용존 고형물의 농도에 비례하여 선형적으로 증가하는 선형적 비례 관계를 갖습니다. 현대식 디지털 굴절계는 고굴절률을 가진 사파이어 또는 유리 프리즘 경계면에서 전반사(Total Internal Reflection)가 일어나는 임계각(Critical Angle, θc)을 광전 소자 센서(linear CCD sensor)로 측정하여 용액의 굴절률을 역산합니다.

2. Brix-TDS 변환 방정식과 물리화학적 보정

대부분의 산업용 굴절계는 용액의 굴절률을 브릭스(Brix, wt%) 단위로 일차 표시합니다. 1 Brix는 증류수 100g 내에 순수한 자당(Sucrose) 1g이 녹아 있는 용액의 굴절률로 정의됩니다. 그러나 커피 용액 내의 고형 성분은 단당류 및 이당류뿐만 아니라, 다양한 카르복실산 이온, 피라진, 카페인 등 자당과 분자 구조 및 분자 굴절(Molecular Refraction) 계수가 다른 다양한 화합물들로 구성되어 있습니다. 따라서 커피 용액의 실제 TDS와 Brix 간에는 물리화학적 굴절 감도의 차이가 존재합니다. 이를 정밀하게 보정하기 위해 개발된 변환 관계식이 Brix-TDS 변환 방정식입니다. 일반적으로 스페셜티 커피 산업에서 널리 적용되는 선형 보정 공식은 다음과 같습니다:

TDS(%) = Brix × 0.85 (혹은 원두의 로스팅 정도와 추출 형태에 따라 약 0.80 ~ 0.86의 보정 계수 적용)

보다 정밀한 장비에서는 다항식 보정 공식인 TDS = a × Brix2 + b × Brix + c를 사용하여 고농도 영역에서의 비선형적 굴절 왜곡을 제어합니다. 이렇게 도출된 TDS(%) 수치를 바탕으로 바리스타는 최종 추출 수율(Extraction Yield, EY)을 다음의 질량 보존 관계식으로 도출합니다:

EY(%) = TDS(%) × [추출액 질량(g) / 원두 도징량(g)]

3. 온도 보정 계수(Temperature Compensation Coefficient)의 열역학

액체의 굴절률은 온도 변화에 극도로 민감하게 반응하는 열역학적 가변성을 지닙니다. 온도가 상승하면 액체의 부피가 열팽창(Thermal Expansion)하여 단위 부피당 분자 수, 즉 밀도(ρ)가 감소합니다. 로렌츠-로렌즈(Lorentz-Lorenz) 방정식에 따르면 굴절률은 밀도에 직접 비례하므로, 온도 상승은 굴절률의 하락을 유발합니다:

(n2 - 1) / (n2 + 2) × (1 / ρ) = Constant

수용액 계에서 온도 계수 dn/dT는 약 -1.0 × 10-4 / °C 내외입니다. 이는 온도가 단 1°C 상승할 때마다 굴절계 지표상에서 약 0.05% 이상의 TDS 측정 오차를 유발하는 거대한 변화량입니다. 따라서 정밀 측정을 위해 굴절계는 시료 온도 감지기(Platinum RTD 센서)를 내장하고 있으며, 측정된 온도 T를 기준으로 기준 온도인 20°C(혹은 25°C)에서의 굴절률 값으로 변환하는 자동 온도 보정(Automatic Temperature Compensation, ATC) 알고리즘을 적용합니다. 이 보정식은 일반적으로 다음과 같은 고차 다항식을 활용하여 온도의 함수로 굴절률 오차를 보정합니다:

n20 = nT + α(T - 20) + β(T - 20)2

(여기서 αβ는 커피 용액에 맞춤화된 열팽창 보정 상수입니다). 이 자동 보정 메커니즘 덕분에 바리스타는 추출 직후 고온의 에스프레소나 브루잉 커피 시료를 방치하여 냉각시키지 않고도, 실시간으로 정밀하고 일관된 화학적 농도 정량 분석을 수행할 수 있습니다.

cocipe

Recipe guide for the perfect harmony of coffee...