히스토그램은 농도계와 노출 배치 습관의 디지털 후계자다. 과거에는 스텝 웨지에서 농도를 읽고 각 계조가 특성 곡선의 어느 지점에 놓여야 할지 판단했다면, 이제 후면 스크린이 전체 계조 분포를 한눈에 보여준다. 도구는 빨라졌지만 판단은 Ansel Adams가 The Negative에서 설명한 것과 같다: 노출계와 그래프는 계조가 어디에 떨어지는지 알려주고, 어디에 놓여야 하는지는 당신이 결정한다. 이렇게 읽으면 히스토그램은 필름 사진가의 사고를 대체하는 게 아니라 그 안에서 자기 자리를 얻는다.

두 축이 실제로 의미하는 것

히스토그램은 계조 분포의 막대 그래프다. 가로축은 왼쪽의 검정에서 오른쪽의 흰색으로 이어지고, 세로축은 각 계조 값을 가진 픽셀의 수를 나타낸다. 8비트 렌더링에서 이 축은 0부터 255까지 256단계에 걸쳐 있다.

가로축은 장면 휘도에 대해 선형이 아니다. 표시되는 값은 sRGB 인코딩을 사용하며, 이 인코딩은 IEC 61966-2-1에 정의되어 있다. 해당 전달 함수는 두 부분으로 이루어진다: 선형 임계값 아래(인코딩 값 0.04045 이하, 선형 신호 0.0031308 이하에 해당)에서는 기울기 12.92의 직선이고, 그 위에서는 상수 1.055와 0.055, 디코딩 지수 2.4를 사용하는 멱함수 ((R' + 0.055) / 1.055) ^ 2.4다. 전체적으로 이 곡선은 순수한 감마 2.2에 매우 근접하며, 검정 근처의 짧은 선형 발끝(toe) 구간은 눈이 가장 민감한 영역에서 양자화 노이즈를 억제한다.

흔히 인용되는 수치 0.45는 인코딩 지수(OETF), 즉 대략 2.2인 디코딩 감마의 역수이며, 이 둘은 흔히 혼동된다. 핵심 메커니즘은 이렇다: 감마 인코딩은 선형 신호를 재분배하여 중간 계조를 통한 지각적으로 균등한 단계가 하이라이트보다 더 많은 코드 값을 차지하도록 한다. 그래서 중간 계조는 그래프 중앙에 넓게 펼쳐지고, 가장 밝은 스톱들은 화면 오른쪽 끝으로 몰리는 것이다—비록 RAW 신호에서는 정반대가 사실이지만.

데이터가 오른쪽 끝에 몰리는 이유

센서의 반응은 선형적이다: 빛이 두 배가 되면 기록 값도 두 배가 된다. 따라서 계조 수준은 화면의 부드러운 롤오프와는 무관하게 스톱 단위로 분포된다. 가장 밝은 스톱이 사용 가능한 전체 레벨의 절반을 차지하고, 그 아래 스톱이 사분의 일, 그 아래가 팔분의 일, 이런 식으로 내려간다. 14비트 RAW 파일은 16,384개의 개별 레벨을 보유하므로, 최상위 스톱 하나만으로도 약 8,192개를 차지하고, 다음은 약 4,096개, 이렇게 절반씩 줄어들다가 가장 어두운 스톱들은 아주 적은 수를 나누어 갖는다. 12비트 파일은 처음부터 4,096개의 레벨밖에 없으며, 동일한 절반씩 감소가 적용된다.

이것이 오른쪽 노출(ETTR)의 실질적인 근거다. 이 방법은 2003년 Thomas Knoll(Adobe의 RAW 변환을 작성한 인물)과의 논의를 거쳐 Michael Reichmann이 Luminous Landscape에서 소개했다. 하이라이트가 허용하는 한 노출을 최대한 오른쪽으로 밀면 암부가 더 많은 광자로 기록된다. Emil Martinec이 Noise, Dynamic Range and Bit Depth in Digital SLRs(2008)에서 보여준 것처럼, 실질적인 이점은 신호 대 잡음비지, 양자화 레벨의 수가 아니다: 판독 노이즈와 광자 노이즈가 이미 신호를 여러 레벨에 걸쳐 흔들기 때문에, “암부에 더 많은 레벨”이라는 이론적 이점은 대부분 무의미하다. 오른쪽 노출(ETTR)이 암부를 더 깨끗하게 하는 것은 더 많은 빛을 포착하기 때문이지, 더 많은 구간을 채우기 때문이 아니다.

스크린 히스토그램이 RAW 촬영자를 오도하는 이유

화면 히스토그램은 RAW 센서 데이터에서 계산되지 않는다. 카메라가 현재 촬영 설정에서 구성하는 내장 JPEG 미리보기로부터 도출되며, 이 미리보기는 이미 톤 매핑, 콘트라스트·채도 조정, 화이트 밸런스 처리를 거친 상태다. 불일치의 메커니즘은 화이트 밸런스 승수다: 색상을 보정하기 위해 카메라는 RAW 채널을 다른 배율로 스케일하는데, 일반적으로 빨간색과 파란색 채널을 1 이상으로 올리는 반면 녹색은 1 근처에 유지한다. 이어 톤 커브와 채도가 휘도를 더욱 높인다. 이 모든 것이 JPEG 값을 클리핑 쪽으로 밀어올리는 반면, 기반이 되는 RAW 채널에는 아직 여유가 있다.

그 차이는 결코 작지 않다. Hasselblad X2D에서 고대비 장면을 대상으로 한 문서화된 사례에서, Jim Kasson은 카메라 내 히스토그램이 하이라이트 클리핑 경고를 멈추기 전까지 진정한 오른쪽 노출(ETTR) 노출에서 1⅔ 스톱을 언더노출해야 한다는 것을 발견했다(How to Expose Raw Files – Part 2, Lensrentals, 2023년 5월). 동일한 장면에서 파란색과 녹색 RAW 채널은 JPEG 히스토그램이 이미 하이라이트를 오른쪽 벽에 붙이고 있을 때 클리핑까지 여전히 약 1.5 스톱이 남아 있었다. 그 히스토그램을 만족시키도록 노출하면 아무런 이유 없이 암부 신호 대 잡음비의 거의 두 스톱을 버리는 셈이다.

RAW 파일을 읽는 작업흐름

해결책은 화면 히스토그램이 RAW 데이터를 추적하도록 만드는 것이다. UniWB, 즉 유니티 화이트 밸런스는 화이트 밸런스 승수를 강제로 약 1로 맞춰, 내장 JPEG 히스토그램이 앞서 달리는 대신 RAW 채널을 따라가도록 한다. 대가는 외관상의 문제다: RAW 녹색 채널이 더 이상 낮아지지 않아 후면 스크린이 강한 녹색 톤을 띤다. 색상은 무시하고 위치를 신뢰하는 법을 익히게 된다. 카메라 밖에서는 전용 도구들이 RAW 히스토그램을 직접 읽는다: RawDigger(분석용)와 FastRawViewer(컬링용) 모두 JPEG의 톤 매핑 버전이 아닌 진짜 RAW 분포를 보여주므로, 각 채널이 정확히 어디에 있었는지 확인할 수 있다.

클리핑, 암부, 그리고 계조 배치

두 가지 실패는 여전히 그래프의 양 끝에서 바로 읽힌다. 하이라이트 값이 오른쪽 벽에 쌓이면 픽셀이 포화 상태에 도달해 아무것도 기록하지 못한 것이다: 클리핑이 발생했으며, 어떤 복구도 처음부터 포착하지 못한 것을 되돌리지 못한다. 왼쪽 벽에 딱 붙어 솟은 스파이크는 뭉개진 암부, 즉 검정으로 눌린 것이다. 두 벽 사이에서 현대 센서는 약 1315 EV의 다이내믹 레인지를 유지하는데, 이는 8비트 0255 화면이 한 번에 표시할 수 있는 것보다 훨씬 넓다. 그래서 RAW 암부 복원이 화면에서 비어 보이는 영역에서 디테일을 끌어올릴 수 있는 것이다—판독 노이즈가 신호를 압도하기 전까지.

왼쪽이나 오른쪽으로 치우친 분포는 그 자체로 오류가 아니다. 눈 덮인 장면을 측광하면 반사광 노출계는—무엇을 읽든 중간 회색으로 렌더링하도록 보정되어—눈을 존 V, 즉 노출계의 보정 기준점에 배치한다. 그 기준점은 전통적인 존 시스템 용어에서 약 18% 반사율의 중간 회색이지만, 반사광 노출계는 실제로는 ANSI/ISO 기준에 따라 12~12.7%에 더 가깝게 보정된다—바로 오래 지속된 18% 대 12.7% 논쟁의 기원이다. 눈을 하얗게 유지하려면 의도적으로 존 VII, 즉 두 스톱 위에 배치해야 하는데, 이렇게 하면 그 피크가 히스토그램 오른쪽 끝이 아닌, 오른쪽 끝에서 약 3분의 2 지점 근처에 오게 된다.

여기서 필름과의 유사점은 단순한 비유가 아닌 실질적인 차이가 된다. 디지털 센서에는 딱딱한 오른쪽 벽이 있어, 포화 상태를 넘으면 아무것도 없다. 흑백 네거티브는 그렇지 않다. Ilford HP5 Plus와 같은 흑백 필름의 특성 곡선, 즉 H&D 곡선은 벽으로 끝나는 게 아니라 완만하게 롤오프하므로, 하이라이트는 측광 지점을 훨씬 넘어도 천장에 충돌하지 않고 부드럽게 압축되어 분리를 유지한다(Adams, The Negative; Lambrecht and Woodhouse, Way Beyond Monochrome). 그 숄더(shoulder)야말로 네거티브를 과노출해도 관대한 이유이고, RAW 파일을 오른쪽 끝 너머로 과노출하면 치명적인 이유다. 히스토그램은 계조가 어디에 떨어졌는지 알려준다. 특성 곡선 위에서와 마찬가지로, 어디에 놓여야 하는지는 당신이 결정한다.