필름에서 컬러 필터는 렌즈 앞에 위치해 노출 전에 어떤 파장이 유제에 도달하는지를 결정한다. 디지털 센서는 먼저 풀컬러로 기록하므로, 이에 해당하는 제어는 촬영 후에 이루어진다. 즉, 세 가지 색상 채널에 가중치를 부여하고 합산하여 단일 회색 값을 만들어낸다. 채널 믹서는 바로 이 합산을 수행하기 때문에, 유리 필터 없이도 노란색, 주황색, 빨간색 필터를 모방할 수 있다. 모방은 근사하지만 완전히 동일하지는 않으며, 그 차이는 처음부터 센서가 색상을 어떻게 인식했는지에 의해 결정된다.

슬라이더가 실제로 계산하는 것

모든 그레이스케일 변환은 세 개의 수치를 하나로 줄이는 작업이다. 기본 가중치는 임의적이지 않다. ITU-R 권고안 BT.709(1990년 최초 발행)의 루마 계수는 적색에 0.2126, 녹색에 0.7152, 청색에 0.0722을 할당한다. 구형 BT.601(1982년 최초 발행, 표준 화질 규격)은 0.299, 0.587, 0.114를 사용했다. 이것들은 진정한 선형 광 휘도 가중치가 아니라 감마 인코딩된 값에 적용되는 루마 계수이지만, 둘 다 합산하면 1이 되어 전체 밝기를 일정하게 유지하며, 녹색에 대한 눈의 강한 감도와 청색에 대한 약한 감도를 반영한다.

채널 믹서는 단순히 가중치를 직접 선택할 수 있게 해준다. 8비트 픽셀 두 개를 예로 들자. 파란 하늘 영역이 대략 R 70 / G 110 / B 200을 읽고, 빨간 벽돌이 R 170 / G 60 / B 50을 읽는다고 하자. 중립적인 BT.709 가중치에서 하늘은 0.2126·70 + 0.7152·110 + 0.0722·200 ≈ 108로 변환되고, 벽돌은 ≈ 83으로 변환되어 하늘이 벽돌보다 밝게 나온다. 이제 R 150% / G 20% / B −70%(합산은 여전히 100%)의 적색 필터 믹스를 적용하면, 하늘은 1.5·70 + 0.2·110 − 0.7·200 = −13이 되어 0으로 클리핑되며 거의 검정색이 되고, 벽돌은 1.5·170 + 0.2·60 − 0.7·50 = 232가 되어 거의 흰색이 된다. 적색 필터 풍경 사진의 극적으로 어두워진 하늘과 빛나는 벽돌의 질감은 빛이 전혀 제거되지 않은 상태에서 오로지 이 계산식에서 바로 도출된다.

스톱 단위로 본 필터 대응 관계

유리 필터는 자신과 같은 색상은 통과시키고 보색을 흡수하며, 항상 노출 비용이 발생한다. 주광 조건에서의 Kodak Wratten 팩터가 그 대가를 정하며, 각각에 대응하는 믹서 설정이 있다:

• Yellow 8 (K2), ~2× ≈ 1 스톱 — 완만한 청색 감소; 표준적인 “자연스러운” 하늘 필터.
• Green 11 (X1), ~4× ≈ 2 스톱 — 녹색 강조, 청색과 적색 감소; 식물을 밝게, 피부를 어둡게.
• Orange 21, ~2.5–4× ≈ 1.3–2 스톱 — 적색 강조, 청색을 노란색보다 더 강하게 컷.
• Red 25, ~8× ≈ 3 스톱 — 높은 적색 가중치, 강한 청색 네거티브; 깊이 어두워진 하늘.
• Deep red 29, ~16× ≈ 4 스톱 — 가장 극단적인 가중치, 하늘을 거의 검정에 가깝게.

청색이 풍부한 맑은 그늘이나 천공광 아래에서는 필터가 흡수할 청색이 더 많으므로 이 팩터들이 더 높아진다. Ansel Adams는 Monolith, the Face of Half Dome(1927)에서 하늘을 거의 검정으로 표현하기 위해 deep red Wratten 29를 사용했으며, The Negative(1981)에서 자신의 필터 활용법을 기술했다. 채널 믹서는 각 룩을 재현하지만 스톱을 소비하지 않는다. 즉, 측광한 셔터 속도와 조리개 값을 그대로 유지할 수 있다.

도구들, 그리고 무엇을 믹싱하는가

Photoshop의 Channel Mixer는 가중치를 백분율로 표현하며, Monochrome 체크박스와 Constant 오프셋을 제공하고 총합을 100% 근처로 유지하도록 유도한다. 실제 세 채널을 믹싱하는 방식이다. Lightroom과 Adobe Camera Raw는 다른 방식을 택한다. 흑백 믹스는 세 개의 원시 채널이 아니라 여덟 개의 색상 밴드 슬라이더(빨강, 주황, 노랑, 초록, 아쿠아, 파랑, 보라, 자홍)를 제공한다. 이들은 HSL 방식의 색 공간에서 작동하므로, “주황” 슬라이더는 전체 적색 채널이 아닌 주황 색조만을 구체적으로 조정한다. 더 세밀한 색조 제어가 가능하지만 사고방식은 다르다. Capture One, RawTherapee, Nik Silver Efex Pro는 이 스펙트럼 어딘가에 위치한다. 이 차이는 중요하다. 세 채널 믹싱은 센서의 실제 적·녹·청 기록을 재분배하는 반면, 밴드 슬라이더는 디모자이킹 이후 해석된 색조를 재매핑한다.

왜 매칭이 불완전한가

에뮬레이션의 한계는 센서 위에 얹힌 컬러 필터 어레이에 있다. Bayer 패턴 — Eastman Kodak의 Bryce Bayer가 발명하고, 1975년 출원되어 1976년 등록된 미국 특허 3,971,065 — 은 50%의 녹색, 25%의 적색, 25%의 청색 포토사이트를 배치한다. Bayer는 녹색 소자를 “휘도 감지 소자”라고 불렀으며, 눈의 최대 감도에 맞추기 위해 두 배로 늘렸는데, 이것이 녹색에 0.7152의 루마 가중치를 부여하는 것과 같은 논리다. 디모자이킹은 각 위치에서 누락된 값을 보간한다.

이 염료 필터들은 광리소그래피 공정으로 증착된 유기 안료로, 날카로운 차단 특성이 아닌 넓고 겹치는 통과 대역을 가진다. 따라서 적색 채널은 부분적으로 녹색에도 반응한다. 이것이 *스펙트럼 누화(spectral crosstalk)*이며, 픽셀 피치가 작아질수록 악화된다. 실리콘은 장파장 쪽에서 문제를 가중시킨다. ~1.1 eV 밴드갭으로 인해 약 1100 nm, 즉 근적외선 영역까지 감도를 가지므로, 컬러 카메라는 적외선이 채널에 도달하는 것을 차단하기 위해 IR 컷 또는 핫미러 필터(전환 파장은 일반적으로 650–720 nm)를 내장한다. 이 필터가 없으면 적색 채널은 심각하게 오염될 것이다. 이 필터를 갖추더라도 잔류 혼합은 염료 누화만 남는다. 어느 쪽이든, 적색 채널은 이미 이후에는 분리할 수 없는 혼합 파장을 흡수한 상태다. 유리 적색 필터는 노출 전에 청색을 차단하지만, 채널 믹서는 이미 기록된 데이터를 재분배할 뿐이다. 한 영역이 흰색으로 클리핑되거나 섀도에 디테일이 묻히면 어떤 가중치도 이를 복구하지 못한다. 이것이 raw 파일로 작업해야 하는 이유다. raw 파일에서는 각 채널이 자체 여유분을 보유한다. 텅스텐광 아래에서는 청색이 먼저 클리핑되는 경향이 있고, 일몰이나 피부 톤에서는 적색이 먼저 클리핑된다.

에뮬레이션하는 필름과, 재현되지 않는 노이즈

채널 믹서는 판크로매틱 유제에 필터를 조합한 것을 에뮬레이션한다. 판크로매틱 필름 — FP4, HP5, Tri-X — 은 가시광 스펙트럼 전체에 걸쳐 감도를 가지기 때문에, 적색 필터가 파란 하늘을 어둡게 하고 빨간색을 밝게 만든다. 오쏘크로매틱 필름은 전혀 다른 특성을 가진다. Ilford Ortho Plus 80은 사실상 적색에 감도가 없어 빨간색을 거의 검정에 가깝게 렌더링하므로, 이 필름에 적색 필터를 사용하는 것은 역효과다. 어떤 두 유제도 동일한 분광 곡선을 공유하지 않으므로 “적색 필터 룩”은 그 자체가 필름별로 다르다. 채널 믹서는 특정 유제와 유리의 조합 중 하나를 근사할 뿐이다.

디지털 측면에서 두 가지 주의사항이 있다. 청색 채널은 보통 가장 노이즈가 많다. 청색 염료가 가장 적은 광자를 통과시키기 때문이다. 신호가 낮을수록 신호의 제곱근에 비례하는 광자 샷 노이즈가 지배적이 되고, 따뜻한 광원 아래에서의 화이트 밸런스 게인은 이를 더욱 증폭시킨다. 현대 CMOS 읽기 노이즈가 픽셀당 약 2 e⁻인 상황에서, 대부분의 주광 노출은 샷 노이즈에 의해 제한되므로 청색 가중치를 강하게 밀면 노출로는 제거할 수 없는 입자가 드러난다. 그리고 믹싱의 “무료이고 되돌릴 수 있는” 특성은 오직 컬러 데이터가 살아있는 동안만, 즉 raw 파일이나 레이어가 있는 문서 상태에서만 유효하다. 그레이스케일로 병합하거나 JPEG로 굽는 순간, 변환은 현상된 네거티브처럼 되돌릴 수 없게 된다.