Рост разрядности: от 16 бит CD к 24 битам и float в DAW

По материалам статей Боба Каца (Bob Katz), инженера мастеринга студии Digital Domain, «More Bits Please!», «Back to Analog» и «Audio Mastering» на сайте digido.com. Факты и числа взяты оттуда и по возможности сверены с другими источниками; рекомендации и оценки — позиция Каца как практика, а не стандарт.

Компакт-диск хранит 16 бит на отсчёт (sample)?отсчёт (sample) — Значение сигнала в один момент дискретизации, одно число. В звукозаписи его также называют сэмплом., и для прослушивания готовой записи этого в большинстве случаев хватает. Студия при этом пишет 24 бита, а программа сведения считает в 32- или 64-битных числах с плавающей точкой. Лишние биты нужны по пути от микрофона к выпуску: они дают запас при записи и сохраняют точность при каждом усилении, фильтре и сложении дорожек. Даже лучший АЦП (analog-to-digital converter, ADC)?АЦП (analog-to-digital converter, ADC) — Аналого-цифровой преобразователь: устройство, которое измеряет аналоговый электрический сигнал и выдаёт цифровые коды отсчётов. заполняет их не все, а споры о «хай-резе» касаются в основном прослушивания готовой записи.

Сколько дают лишние биты

Разрядность (bit depth)?разрядность (bit depth) — Число бит для представления одного квантованного отсчёта. B бит дают 2ᴮ кодов; при равномерном квантовании шаг зависит также от полного диапазона сигнала. $B$ задаёт $2^B$ уровней квантования (quantization)?квантование (quantization) — Замена значения отсчёта одним из конечного набора представимых уровней. Разность между выбранным уровнем и исходным значением называется ошибкой квантования.. Для идеального преобразователя каждый бит добавляет около 6 дБ к отношению сигнал/шум (signal-to-noise ratio, SNR)?отношение сигнал/шум (signal-to-noise ratio, SNR) — Отношение мощности полезного сигнала к мощности шума; в децибелах — 10 lg(Pсигнал/Pшум). Результат зависит от полосы измерения и условий сигнала. синусоиды на полной шкале (full scale)?полная шкала (full scale) — Опорная граница уровня выбранного аудиоформата или тракта. Для нормированных аудиоотсчётов обычно принята за ±1; числовой формат с плавающей точкой способен хранить значения за этой границей.; формула и её условия разобраны в статье об АЦП и ЦАП. Восемь бит разницы между 16 и 24 дают

Кроме запаса при записи, длинное слово нужно для промежуточных результатов. При обработке число значимых бит растёт, и формат, в котором сигнал хранится между операциями, определяет, сколько из них сохранится.

Длина слова растёт при обработке

Длина слова (word length)?длина слова (word length) — Число бит, которыми записано одно цифровое значение. При сложении и умножении результат требует больше бит, и для хранения в формате фиксированной длины его приходится укорачивать. — число бит, которыми записано одно значение. У исходного 16-битного отсчёта она 16 бит, но результат почти любой операции над ним длиннее:

• Сложение. Сумма двух 16-битных значений лежит в диапазоне от −65 536 до 65 534 и требует 17 бит. Каждое удвоение числа дорожек на шине добавляет ещё бит.
• Усиление на «круглую» величину. Ослабление на 6,02 дБ — это умножение на 0,5. Нечётный код 12 345 превращается в 6172,5, и у результата появляется дробный двоичный разряд.
• Произвольное усиление. Коэффициент для −0,1 дБ равен $10^{-0{,}1/20} \approx 0{,}988553$. Записанный, например, 24 битами, он даёт при умножении на 16-битный код произведение длиной до 40 бит: $12\,345 \cdot 0{,}988553 \approx 12\,203{,}688$.
• Фильтры и динамическая обработка. Эквалайзер, компрессор, кроссфейд и микшер состоят из таких же умножений и сложений, а рекурсивный фильтр подаёт результат обратно на вход. Длина слова в таких вычислениях доходит до 56 и даже 72 бит; в сигнальных процессорах запас на рост дают дополнительные разряды аккумулятора (Zölzer, гл. 2.4).

Рост длины слова виден на битовом индикаторе (bitscope) — приборе, который показывает активность каждого разряда цифрового потока. У 16- или 20-битного источника при перемещении фейдера, кроссфейде или повороте ручки эквалайзера из положения 0 дБ загораются все 24 разряда выхода.

Ошибки накапливаются

Цифровое копирование передаёт биты без изменений, а цифровая обработка каждый раз заново квантует результат. Поэтому утверждение «в цифре нет потерь на поколениях» верно для копии, но не для цепочки обработок.

Простая проверка: ослабить сигнал на 0,1 дБ, сохранить, затем усилить на 0,1 дБ и сохранить снова. Номинально общее усиление равно 1, но если между шагами хранится 16-битное слово, результат уже не совпадает с исходником. Проверяют это нулевым тестом (null test)?нулевой тест (null test) — Проверка совпадения двух записей: их выравнивают с точностью до отсчёта, у одной меняют полярность и складывают. У точной копии сумма равна нулю во всех отсчётах.: исходный и обработанный файлы выравнивают с точностью до отсчёта, у одного меняют полярность и складывают. У точной копии сумма равна нулю во всех отсчётах; любой остаток — внесённое обработкой изменение.

Посчитаем на синусоиде 997 Гц с пиком −6 dBFS, одна секунда при 44,1 кГц, округление к ближайшему уровню. После пары «−0,1 дБ, +0,1 дБ» с 16-битным хранением между шагами 528 отсчётов из 44 100 (1,2 %) отличаются от исходных на один младший разряд. При 24-битном хранении между шагами после итогового округления до 16 бит отличий нет. Разница растёт с длиной цепочки:

Прибавка в 7–21 дБ шума эквивалентна потере одного–трёх с половиной бит. Ошибки разных шагов складываются, а последующее усиление поднимает и ошибку предыдущих. Кроме того, при тихом или периодическом сигнале ошибка квантования повторяет его форму и звучит как искажение, а не как нейтральный шум (Kester, MT-001).

Номинальная и эффективная разрядность

Слово «24 бита» в характеристиках АЦП означает длину выходного слова, а не точность измерения. Нижние разряды такого слова заполнены собственным шумом и искажениями аналоговой части. Чтобы сравнить реальный преобразователь с идеальным, используют эффективную разрядность (effective number of bits, ENOB)?эффективная разрядность (effective number of bits, ENOB) — Разрядность идеального преобразователя с тем же отношением сигнала к сумме шума и искажений, что у реального. Обычно меньше длины выходного слова.: число бит идеального преобразователя с тем же отношением сигнала к сумме шума и искажений (SINAD).

Это обращение формулы идеального SNR: 6,02 дБ переводит децибелы в биты, 1,76 дБ — поправка для синусоиды (Wikipedia, Effective number of bits). Звуковые АЦП обычно характеризуют двумя числами: динамическим диапазоном (dynamic range)?динамический диапазон (dynamic range) — Разность самого высокого и самого низкого уровня сигнала или системы в децибелах; у системы нижняя граница — уровень собственного шума., измеренным по шуму при сигнале −60 dBFS, и суммой гармонических искажений и шума (THD+N) при сигнале у полной шкалы. Подстановка каждого из них в формулу (2) даёт оценку снизу и сверху: сколько бит ограничено шумом, сколько — искажениями громкого сигнала.

Лучшие преобразователи на практике достигают около 19–20 бит, и таблица это подтверждает: даже 24-битный кристалл 2007 года по шуму соответствует примерно 20 битам. Длинное слово при этом не лишнее. Если записать выход такого АЦП в 20 бит, к его собственному шуму добавится ещё одна ошибка квантования. В 24 битах младшие разряды хранят шум аналоговой части без дополнительного округления, и точность преобразователя сохраняется полностью.

То же касается интерфейсов. AES3 (AES/EBU) передаёт 24-битное слово, а потребительский S/PDIF рассчитан на 20 бит и переносит ещё 4 бита как необязательное расширение, которое не все устройства поддерживают (Wikipedia, S/PDIF). Кац проверил битовым индикатором старые цифровые пульты Yamaha: их выход S/PDIF отдавал 20 бит, и все 24 бита можно было получить только через AES/EBU. В недорогих DAW и цифровых микшерах звук чаще всего ухудшают недостаточная длина слова и джиттер — нестабильность тактового сигнала. Поэтому число бит, которое доходит до рекордера, проверяют битовым индикатором или нулевым тестом.

Плавающая точка в DAW

Современная DAW записывает дорожки в 24-битном целочисленном формате, а сводит в 32- или 64-битном формате с плавающей точкой. Представление отсчётов с плавающей точкой (floating-point sample representation)?представление отсчётов с плавающей точкой (floating-point sample representation) — Хранение значений отсчётов в числовом формате со знаком, значащей частью и показателем степени. Номинальную полную шкалу аудио обычно принимают за ±1, но сам формат позволяет хранить значения за её пределами. хранит знак, 24-битную значащую часть (23 бита записаны явно) и 8-битный показатель степени двойки (Wikipedia, Single-precision floating-point format). Для сведения важны два свойства этого формата.

Ошибка округления пропорциональна значению. Шаг квантования float растёт вместе с числом, и при округлении к ближайшему относительная ошибка не превышает $2^{-24}$ — около −144 дБ от самого значения. Поэтому отношение сигнал/шум вычислений почти не зависит от уровня: тихая дорожка в −40 dBFS считается так же точно, как громкая. У целочисленного формата наоборот: шаг постоянный, и тихий сигнал теряет точность (Zölzer, гл. 2.4).

64-битный формат (double) с 53-битной значащей частью оставляет ещё больше точности для длинных цепочек и накопления сумм; некоторые DAW и плагины используют его для шины микса. Файлы во float тоже существуют: 32-битный float WAV сохраняет и пики выше 0 dBFS. На мастеринг рекомендуется передавать 24-битные целочисленные или 32-битные float-файлы с той частотой дискретизации, на которой шла работа.

Спорные места: 96 и 192 кГц

Тот же довод «больше — значит лучше» применяют к частоте дискретизации (sample rate)?частота дискретизации (sample rate) — Число отсчётов в каждом канале за одну секунду, то же число кадров аудиоданных в секунду. Измеряется в герцах: 44 100 Гц означает 44 100 отсчётов на канал в секунду.. Здесь согласия меньше, и мнения стоит отделять от измерений.

Позиция Каца: материал 96 кГц / 24 бита звучит теплее, прозрачнее и объёмнее, чем 44,1 кГц, возможно, из-за более мягких фильтров и шире полосы; польза 192 кГц спорна, раз слух номинально ограничен 20 кГц. В пользу обработки на повышенной частоте он приводит слова Джеймса Мурера (James A. Moorer) из Sonic Solutions: при высокой частоте дискретизации ошибки квантования каждого шага распределяются по более широкой полосе, и на звуковую полосу их приходится меньше.

Независимые данные дают более осторожную картину. В двойном слепом эксперименте Э. Брэда Мейера и Дэвида Морана (2007) в тракт воспроизведения записей высокого разрешения вставляли петлю «АЦП — 16 бит / 44,1 кГц — ЦАП». На обычной и большой громкости её не обнаружил ни один слушатель ни на одной системе; шум петли был слышен только при громкости, поднятой примерно на 20 дБ сверх обычной, на почти беззвучном фрагменте. Метаанализ Джошуа Райсса (2016) объединил 18 экспериментов, более 400 участников и 12 500 попыток: способность отличить высокое разрешение оказалась небольшой, но статистически значимой и заметно росла после обучения слушателей.

Спор касается в основном готовой записи. Длинные слова в студии — 24 бита при записи, float при сведении, одно укорачивание в конце — признаёт и Монтгомери: профессионалы используют 24 бита ради запаса и низкого шума.

Как разрядность росла

Самопроверка

Дорожку записали в 24 бита с пиками около −18 dBFS. Сколько разрядности «потеряно» по сравнению с пиком у 0 dBFS, и стоит ли из-за этого поднимать уровень записи?

18 дБ — это $18 / 6{,}02 \approx 3$ бита: у 24-битного слова остаётся около 21 бита. Ограничивает запись шум АЦП, а не слово: при динамическом диапазоне около 120 дБ (таблица 3) от пика до шума останется около 100 дБ — больше, чем 98 дБ идеального 16-битного формата на полной шкале. Шум микрофона и помещения обычно ещё выше. Взамен есть 18 дБ запаса до перегрузки, так что поднимать уровень незачем.

В редакторе с 16-битным хранением фрагмент ослабили на 0,1 дБ, а потом усилили на 0,1 дБ. Почему это не то же самое, что ничего не делать, и как в этом убедиться?

После каждого шага результат округлён до 16 бит, и часть отсчётов не возвращается к исходному коду: в примере из раздела об ошибках — 1,2 % отсчётов. Нулевой тест — сложение с исходником в противофазе — покажет ненулевой остаток. При 24-битном или float-хранении между шагами такого остатка не было бы.

У 24-битного АЦП динамический диапазон 115 дБ. Какова оценка эффективной разрядности и зачем тогда хранить его выход в 24 битах?

По формуле (2): $(115 - 1{,}76) / 6{,}02 \approx 18{,}8$ бит. Если укоротить выход до 19–20 бит, к шуму преобразователя добавится новая ошибка квантования. 24-битное слово хранит этот шум без дополнительного округления.

В проекте с float-сведением сумма шин дала пик +6 dBFS, а мастер-фейдер опущен на 8 дБ. Будет ли клиппинг?

Внутри float — нет: сумма хранится без срезания, и после фейдера пик равен −2 dBFS. Клиппинг появится, если до фейдера стоит граница с пределом ±1: плагин с ограничением, целочисленная шина или экспорт промежуточного файла в 24 бита.

Источники

• Katz B. More Bits Please!. в списке литературы → — рост длины слова при сведении, эквализации, изменении усиления и обработке; длина слова до 24, 56 и 72 бит; хранение в 24 бит и выше; разница 48 дБ между 24 и 16 битами и пики не выше −3 и −1 dBFS; битовый индикатор и рост до 24 разрядов; нулевой тест, проверка обхода и опыт с −0,1 и +0,1 дБ; усечение в цифровых пультах; выход S/PDIF старых пультов Yamaha в 20 бит; 32-бит float и 64 бит в DAW; 24-битные и 32-битные float-файлы для мастеринга; мнение о 96 и 192 кГц и цитата Дж. Мурера; 16-битные мастеры с 20-битных АЦП.
• Katz B. Back to Analog. в списке литературы → — цифровая часть: причины «жёсткого» звука плохой цифры (фильтры, преобразователи, короткая длина слова, джиттер, дизеринг); лучшие АЦП около 19–20 бит на практике; запись в 24 бит в целом формате и сведение в 32–64-битном float; длинные слова цифрового пульта и накопление искажений; ошибки округления в фильтрах и усечение. Исходная статья — Pro Sound News, январь 1997 года, с последующими дополнениями.
• Katz B. Audio Mastering. в списке литературы → — длина слова и джиттер как причины ухудшения звука в недорогих DAW и цифровых микшерах.
• Zölzer U. Digital Audio Signal Processing. Гл. 2.4: Number Representation, с. 51–62. в списке литературы → — фиксированная и плавающая точка, динамический диапазон и отношение сигнал/шум обоих форматов, независимость SNR float от уровня, автоматическое масштабирование, перевод в целый формат на выходах AES/EBU и MADI; перевод из целого во float не улучшает SNR.
• Wikipedia. Effective number of bits — определение ENOB через SINAD, смысл коэффициентов 6,02 и 1,76.
• Texas Instruments. PCM4222: High-Performance, Two-Channel, 24-Bit, 216kHz Sampling Multi-Bit Delta-Sigma A/D Converter, SBAS399A, 2007 — динамический диапазон без взвешивания 121, 118 и 112 дБ в режимах 48, 96 и 192 кГц и полосах 20, 40 и 80 кГц; THD+N −108 дБ при −1 dBFS.
• Collins M. Digidesign Pro Tools 24. в списке литературы → — Pro Tools 24: 24-битная запись, карта d24, интерфейс 888/24 с АЦП на 110 дБ и ЦАП на 102 дБ по данным Digidesign.
• Wikipedia. S/PDIF — 20 бит аудиоданных и 4 необязательных бита для 24-битных отсчётов; сравнение с AES3.
• Wikipedia. Single-precision floating-point format — 24-битная значащая часть, 8-битный показатель, наибольшее значение около 3,4 · 10³⁸.
• Meyer E. B., Moran D. R. Audibility of a CD-Standard A/D/A Loop Inserted into High-Resolution Audio Playback. в списке литературы → — по аннотации и описанию Boston Audio Society (Explanation): петля 16 бит / 44,1 кГц не обнаружена на обычной и большой громкости; шум слышен при громкости на 20 дБ выше обычной на тихом фрагменте. Полный текст платный и не читался.
• Reiss J. D. A Meta-Analysis of High Resolution Audio Perceptual Evaluation. в списке литературы → — по аннотации: 18 экспериментов, более 400 участников, более 12 500 попыток; небольшая статистически значимая способность различать высокое разрешение, рост после обучения.
• Montgomery C. 24/192 Music Downloads ...and why they make no sense. в списке литературы → — ультразвук при воспроизведении и интермодуляционные искажения; 16 бит для прослушивания; 24 бита в записи и сведении ради запаса и шума.
• Wikipedia. Compact disc — Red Book (1980), начало продаж в Японии 1 октября 1982 года и в Европе 14 марта 1983 года.
• Wikipedia. Apogee Electronics — первые внешние АЦП и ЦАП AD-500 и AD-1000 (1991), заметка Billboard «Apogee Bows 20-bit Converter At AES» (3 декабря 1994 года), 24-битный AD8000 (1998).
• Wikipedia. DVD-Audio — публикация стандарта в марте 1999 года, первые диски в 2000 году; 16, 20 и 24 бита, до 192 кГц в стерео.