흑백 디지털 파일을 만드는 방법은 두 가지다. 필터가 씌워진 센서로 색을 포착한 뒤 색 정보를 버리는 방법, 혹은 처음부터 컬러 필터가 없는 센서로 직접 휘도를 포착하는 방법. 최종 결과물은 비슷해 보이지만, 실리콘에 도달하는 빛의 양과 살아남는 공간적 디테일의 양에서 차이가 난다. 정직한 비교는 구체적일수록 좋으며, 가장 깔끔한 예시는 동일한 실리콘 위에 만들어진 두 카메라를 Leica가 직접 나란히 내놓은 경우다. M9(2009년)와 2012년 5월 10일 발표된 M Monochrom이 그것이다. 두 카메라 모두 동일한 Kodak KAF-18500 CCD — 35.8×23.9mm, 6.8마이크론 화소에 1800만 화소 — 를 사용한다. 유일한 차이는 Monochrom에서 컬러 필터 어레이를 걷어냈다는 것뿐이다.

베이어 어레이와 그 대가

거의 모든 컬러 센서는 Eastman Kodak의 Bryce E. Bayer가 특허를 낸 컬러 필터 어레이(CFA)를 통해 색을 기록한다. 미국 특허 3,971,065로, 1975년 3월 5일에 출원되어 1976년 7월 20일에 등록되었다. 패턴은 빨강 하나, 파랑 하나, 초록 둘로 구성된 2×2 타일의 반복이다. 초록이 전체 광사이트의 절반을 차지하고, 빨강과 파랑이 각각 4분의 1씩을 차지한다. 초록을 의도적으로 과샘플링하는 이유는, 인간의 시각 시스템이 휘도, 즉 밝기 감각과 고주파 미세 디테일의 대부분을 초록 파장으로부터 끌어내기 때문이다.

각 광사이트는 자신의 필터가 통과시키는 한 가지 원색만 측정하며, 나머지 두 값은 디모자이킹이라는 단계에서 인접 화소로부터 추정된다. 따라서 베이어 칩은 색 정보의 약 3분의 1을 직접 측정하고 나머지를 보간한다. 이 보간은 색 해상도에 가장 가혹한 타격을 입힌다. 휘도는 밀도 높게 샘플링된 초록 채널을 따라가기 때문에 타격이 덜하지만, 그래도 손실은 있다. 자주 인용되는 측정에 따르면, 베이어 센서의 유효 휘도 해상도는 명목상 화소 수의 약 0.58배에 불과하다.

디모자이킹이 엣지를 흐리는 방식

구호보다 중요한 것은 메커니즘이다. 일반적인 디모자이크는 먼저 초록 채널을 재구성한다. 초록은 네 개의 사이트 중 두 개에서 샘플링되므로 보간할 그리드가 가장 촘촘하기 때문이다. 이후 빨강과 파랑은, 초록으로 앵커된 추정값을 바탕으로 지역적인 빨강-초록 및 파랑-초록 비율을 일정하게 유지하면서 부족한 4분의 3을 채우는 방식으로 도출된다.

선명한 흑백 엣지 하나가 센서를 가로질러 떨어진다고 생각해보자. 이것은 고주파 휘도 이벤트이며, 휘도는 모든 채널에 존재한다. 그런데 빨강과 파랑 채널에서는 엣지의 네 샘플 중 세 개가 추측값이며, 엣지의 양쪽에 걸친 인접 사이트를 필연적으로 평균화하는 커널에 의해 재구성된다. 전환 구간을 가로질러 평균화한다는 것은 정의상 흐림이다. 보간은 측정 샘플이 없는 곳에 선명한 경계를 만들 수 없으므로, 미세한 휘도 구조가 부드러워진다. 필터가 없는 센서는 이런 문제가 없다. 각 광사이트가 자신의 위치에서 전체 휘도 값을 측정하며, 화소당 광사이트 하나, 추론되는 것은 아무것도 없다.

보이지 않는 필터: 안티 앨리어싱 레이어의 부재

Monochrom의 화소당 해상력에 기여하는 두 번째, 그리고 흔히 더 큰 요인이 있는데, 이것은 놓치기 쉽다. 컬러 센서에는 광학적 저역통과 필터, 즉 안티 앨리어싱(AA) 필터가 달려 있다. 센서 앞에 의도적으로 배치된 블러로, CFA 데이터를 보간할 때 미세한 반복 패턴이 컬러 모아레를 만들어내지 못하도록 디모자이크 나이퀴스트 한계보다 더 미세한 디테일을 뭉개는 역할을 한다. 이 블러는 모든 프레임에서 선예도 비용을 치르게 한다.

모노크롬 센서에는 앨리어싱될 색이 없으므로 억제해야 할 컬러 모아레도 없으며, AA 필터를 완전히 생략할 수 있다. 따라서 Monochrom은 두 가지 면에서 이중으로 해상력을 얻는다. 보간 없음, 그리고 광학적 저역통과 레이어 없음. 대신 휘도 앨리어싱은 여전히 발생할 수 있으므로, 고운 직물이나 먼 거리의 난간, 지붕 기와 등에서는 컬러+AA 카메라라면 부드럽게 처리했을 모노크롬 모아레가 나타날 수 있다.

마케팅 수치 대 실측 수치

Monochrom에 대한 Leica 자체의 주장은 동등한 화소 수를 가진 컬러 센서에서 변환한 모노크롬보다 “100% 더 선명한” 이미지를 제공한다는 것, 즉 약 두 배라는 것이다. 이것은 독립적인 결과가 아닌 제조사 측의 수치로 받아들여야 한다.

실측 현실은 더 겸손하다. Popular Photography의 실험실 테스트에서 M9는 ISO 80에서 사진 높이당 약 2675선을, Monochrom은 ISO 160에서 약 2800선을 분해했다. 실제 향상이 있긴 하지만, 두 배가 아닌 몇 퍼센트 수준이다. “100% 더 선명하다”는 표현은 디모자이킹 없음과 AA 필터 없음을 합친 효과를 마케팅 용어로 요약한 것으로 읽는 편이 좋다. 그 효과가 마이크로 콘트라스트와 엣지 선예도에서 진짜이고 눈에 보이는 것은 사실이지만, 분해 디테일이 두 배에 달하는 것과는 거리가 멀다.

감도가 높아지는 이유

필터에 흡수된 빛은 포토다이오드에 닿지 않는다. 베이어 광사이트는 각자의 통과 대역만 보기 때문에, 초록 사이트는 자신에게 들어오는 빨강과 파랑의 대부분을 버린다. CFA를 제거하면 각 광사이트가 가시광 전 영역에 걸쳐 수집하게 되어, 동일한 노출에서 사이트당 더 많은 광자를 포착한다.

이것은 공인 감도 수치에 그대로 나타난다. M9의 기본 ISO는 160(80까지 풀 가능)이고 최대 2,500까지 올라가는 반면, Monochrom의 기본 ISO는 320이며 10,000까지 올라간다. 하단에서 보면 320을 160으로 나누면 정확히 1스톱의 추가 기본 감도다. 상단에서는 2,500에서 10,000이 2스톱의 추가 여유다. 노이즈 개선에도 메커니즘이 있다. 광사이트당 광자가 더 많다는 것은 고정된 읽기 노이즈 바닥 위에 더 큰 신호가 앉아 있다는 뜻이므로, 신호 대 잡음비가 높아지고 그림자 부분이 노이즈 속으로 뭉개지지 않고 깨끗하게 분리된 톤을 유지한다.

콘트라스트는 이제 렌즈가 담당한다

이 트레이드오프는 절대적이다. 필터가 없는 센서는 색을 기록하지 않으며, 나중에 되돌릴 수 없다. 이것이 색조 제어에서 의미하는 이유에는 물리적인 근거가 있다. 팬크로매틱 할화은 유제, 그리고 노출된 실리콘은 본질적으로 눈보다 파랑과 자외선에 더 민감하다. 따라서 필터가 없으면 파란 하늘이 너무 밝게 렌더링되고 구름이 날아간다. 필름에서는 이것을 광학적으로 고친다. 모노크롬 디지털 센서에서도 정확히 동일한 작업을 해야 한다. 파일에 색이 없기 때문에 소프트웨어가 나중에 가중치를 줄 수가 없기 때문이다.

도구는 렌즈 앞의 콘트라스트 필터이며, 흡수를 통해 작동한다. 황색 필터는 황색과 그보다 긴 파장인 주황, 빨강을 통과시키면서 파랑과 보라를 흡수한다. 주황과 빨강 필터는 더 나아가 파랑과 초록을 더 많이 차단하므로 하늘이 점진적으로 어두워지고, 단파장 빛의 산란인 대기 안개가 걷힌다. 각 필터는 노출에서 대가를 요구한다. Yellow 8(K2)은 계수 2, 즉 1스톱이다. Orange 16은 Yellow보다 강하다. Red 25는 계수 8, 즉 3스톱이며 가장 어두운 하늘과 가장 강한 안개 차단을 만들어낸다.

실제 예시를 들어보자. Ilford HP5 Plus를 박스 스피드인 EI 400으로 장전하고, 정오의 풍경을 프레이밍하여 파란 하늘이 존 VI 근방에 놓이도록 측광한다. Red 25를 렌즈에 장착하면 그 하늘이 존 III 또는 IV로 내려와 극적인 거의 검정에 가까운 렌더링이 된다. 이후 필터 계수를 보상하기 위해 3스톱을 열어 작업 노출을 유효 EI 50으로 떨어뜨린다. 모노크롬 디지털 바디도 동일한 결과를 내려면 렌즈에 동일한 필터가 필요하다. 반면 컬러 카메라라면 변환 시 파랑 채널의 가중치를 낮춰 나중에 비슷하게 흉내낼 수 있었을 것이다. 색이 전혀 기록되지 않은 상태에서 결정은 노출 순간에 이루어진다. 렌즈 앞의 유리, HP5 한 장이 항상 요구해온 것과 똑같은 규율이다.