Дизеринг и формирование шума: как понизить разрядность без искажений

По материалам статьи Боба Каца (Bob Katz), инженера мастеринга студии Digital Domain, «Dither» на сайте digido.com. Факты и числа взяты оттуда и сверены с другими источниками; рекомендации и оценки — позиция Каца как практика, а не стандарт.

Студия записывает и сводит звук в 24 битах и в числах с плавающей точкой, а компакт-диск хранит 16 бит на отсчёт (sample)?отсчёт (sample) — Значение сигнала в один момент дискретизации, одно число. В звукозаписи его также называют сэмплом.. Когда младшие разряды отбрасывают, тихие места записи — затухания, хвосты реверберации, пианиссимо — искажаются. Дизеринг (dithering)?дизеринг (dithering) — Добавление специально выбранного слабого случайного шума перед квантованием, чтобы ослабить зависимость ошибки квантования от сигнала. Не восстанавливает потерянную точность и меняет отдельные коды. заменяет это искажение ровным слабым шумом, а формирование спектра шума (noise shaping)?формирование спектра шума (noise shaping) — Перераспределение шума квантования по частотам с помощью обратной связи по ошибке: в выбранной полосе шума становится меньше, на остальных частотах — больше. Применяется при понижении разрядности и в дельта-сигма-преобразователях. переносит шум на частоты, где слух его почти не замечает.

Что теряется при понижении разрядности

В спектре это видно на тоне около 1 кГц с уровнем −90 dBFS (decibels relative to full scale)?dBFS (decibels relative to full scale) — Уровень цифрового сигнала в децибелах относительно полной шкалы. Для пиковых значений 0 dBFS соответствует её границе; формат с плавающей точкой допускает значения выше неё. Соглашение об опоре RMS указывают отдельно., амплитуда которого около одного шага 16-битного отсчёта. После округления рядом с ним появляются составляющие на нечётных кратных частотах (рисунок 2а): пятая и седьмая гармоники лежат всего на 14–16 дБ ниже тона, на −104 и −106 dBFS. Эти составляющие следуют за сигналом. На затухании звука искажение меняет характер с каждым децибелом, а когда сигнал опускается ниже половины шага, округление обнуляет его: хвост реверберации обрывается в цифровую тишину. Поэтому запись, разрядность которой понизили без дизеринга, звучит суше исходной, с меньшим ощущением пространства, а затухания кажутся оборванными.

Дизеринг: шум вместо искажения

Искажение исчезает, если перед округлением добавить к каждому отсчёту небольшое случайное число. Его называют дизером (dither), а сам приём — дизерингом?дизеринг (dithering) — Добавление специально выбранного слабого случайного шума перед квантованием, чтобы ослабить зависимость ошибки квантования от сигнала. Не восстанавливает потерянную точность и меняет отдельные коды.. Сумма сигнала и дизера то переходит порог округления, то нет, и вероятность перехода тем выше, чем ближе сигнал к следующему уровню. Младший разряд переключается в такт тихому сигналу, и сведения о деталях тише шага сохраняются в частоте этих переключений. В среднем результат повторяет вход: квантователь, ступенчатый для отдельного отсчёта, становится линейным в среднем (Lipshitz и др., 1992, §5.3; Zölzer, §2.2.1). На рисунке 1б каждый отдельный результат шумный, но среднее многих повторов почти совпадает с синусоидой. Слух работает похоже: за шумом слышен тон.

Для левого и правого каналов нужны разные случайные числа: при одинаковом дизере в обоих каналах стереоразделение ухудшается. Дизеринг при понижении разрядности уже цифрового сигнала иногда называют передизерингом (redithering), чтобы отличить его от дизеринга в самом АЦП (analog-to-digital converter, ADC)?АЦП (analog-to-digital converter, ADC) — Аналого-цифровой преобразователь: устройство, которое измеряет аналоговый электрический сигнал и выдаёт цифровые коды отсчётов..

Дизеринг не делает результат точнее: отдельный отсчёт после него в среднем дальше от исходного значения, чем после простого округления. Он меняет вид ошибки — искажение, зависящее от сигнала, заменяется шумом, который от сигнала не зависит.

RPDF и TPDF

Простейший дизер — RPDF-дизеринг (rectangular probability density function dither, RPDF dither)?RPDF-дизеринг (rectangular probability density function dither, RPDF dither) — Дизер с равномерным распределением, размах один шаг квантования. Устраняет искажения, но мощность остающегося шума зависит от сигнала. (rectangular probability density function): равномерно распределённое (uniform distribution)?равномерное распределение (uniform distribution) — Распределение, в котором интервалы значений одинаковой ширины имеют одинаковую вероятность. Не определяет временные связи между отсчётами. число от $-\Delta/2$ до $+\Delta/2$, где $\Delta$ — шаг квантования. Он устраняет искажения: средняя ошибка становится нулевой при любом входе. Но мощность остающегося шума зависит от сигнала. Если вход совпадает с уровнем квантования, шума нет; посередине между уровнями он наибольший (таблица 1). Это модуляция шума (noise modulation)?модуляция шума (noise modulation) — Изменение мощности шума квантования вместе с сигналом. Возникает при недостаточном дизере и слышна как «дыхание» шума на затуханиях.: на затухании шум «дышит» вместе с сигналом, и в прослушиваниях это слышно (Lipshitz и др., 1992, §6; Zölzer, §2.2.3).

TPDF-дизеринг (triangular probability density function dither, TPDF dither)?TPDF-дизеринг (triangular probability density function dither, TPDF dither) — Дизер с треугольным распределением — сумма двух независимых равномерных чисел, размах два шага квантования. Делает постоянными среднюю ошибку и её мощность при любом входе, добавляя меньше всего шума. (triangular probability density function) складывает два независимых равномерных числа. Сумма имеет треугольное распределение от $-\Delta$ до $+\Delta$, то есть размах два шага. Такой дизер делает постоянными и среднюю ошибку, и её средний квадрат: мощность шума одинакова при любом входе. Среди дизеров, которые устраняют и искажения, и модуляцию шума, TPDF добавляет меньше всего шума, а распределения более высоких порядков для звука не нужны (Lipshitz и др., 1992, §5.3–6; Zölzer, §2.2.1).

Шум втрое мощнее, чем при округлении без дизеринга: $10 \lg 3 \approx 4{,}8$ дБ. Это цена за то, что ошибка больше не зависит от сигнала (Lipshitz и др., 1992, §5.3). RPDF добавляет $\Delta^2/12$ и даёт в сумме $\Delta^2/6$, на 3 дБ больше округления, но с модуляцией шума. Вариант TPDF с одним генератором — разность соседних равномерных чисел $d[n] - d[n-1]$: распределение то же треугольное, но шум дизера смещён к высоким частотам (Zölzer, §2.2.2).

Отношение сигнал/шум и динамический диапазон

Но тихий сигнал с дизерингом слышен и под этим шумом. Динамический диапазон удобнее понимать как разность между наибольшим уровнем и самым тихим тоном, который ещё слышен. Так понятый диапазон — скорее слуховая оценка, чем измерение прибором, и в характеристиках устройств его часто путают с отношением сигнал/шум. Для 16 бит с дизерингом он достигает около 115 дБ: окружение и затухания в музыкальной записи слышны примерно до −115 дБ.

Число 93 дБ относится к шуму во всей полосе, а слух анализирует звук узкими полосами. Тон около 1 кГц маскирует только шум внутри своей критической полосы (critical band)?критическая полоса (critical band) — Полоса частот, в пределах которой слух объединяет составляющие при оценке громкости и маскировки. Около 100 Гц до 500 Гц, выше — примерно 20 % средней частоты., около 160 Гц (Painter, Spanias, табл. 1). Белый шум распределён по полосе равномерно, и его часть в полосе шириной $B$ задаёт формула (2).

Опыт Кристофера Монтгомери (Xiph.Org) подтверждает вывод: 16-битный файл с тоном 1 кГц на −105 dBFS явно слышен над шумом, а с формированием спектра шума динамический диапазон 16 бит на практике доходит до 120 дБ. Сигнал может быть и меньше шага. Тон −110 dBFS имеет амплитуду 0,1 шага: без дизеринга округление даёт сплошные нули, а с TPDF в таком же спектре, как на рисунке 2, линия тона стоит на 20 дБ выше шума в каждой ячейке шириной 2,7 Гц.

Формирование спектра шума

Шум TPDF около −93 dBFS кажется пренебрежимо малым, но инженеры слышат его и при обычной громкости. Дизер возвращает окружение и затухания, но сам их немного маскирует и добавляет звуку лёгкую «пелену». Мощность шума ниже, чем у TPDF, не получить без возврата искажений или модуляции шума, а спектр шума изменить можно. Слух наиболее чувствителен около 3–4 кГц и гораздо менее чувствителен выше 12–15 кГц (кривые равной громкости). Формирование спектра шума?формирование спектра шума (noise shaping) — Перераспределение шума квантования по частотам с помощью обратной связи по ошибке: в выбранной полосе шума становится меньше, на остальных частотах — больше. Применяется при понижении разрядности и в дельта-сигма-преобразователях. убирает шум из чувствительной области и переносит его в менее чувствительную.

Фильтр первого порядка ослабляет шум до −17 дБ около 1 кГц и поднимает на 6 дБ около 22 кГц. Фильтр высокого порядка может повторить форму порога слышимости: на рисунке 3 фильтр девятого порядка опускает шум на 27,6 дБ около 3 кГц и на 17,5 дБ около 1 кГц, выше 12 кГц поднимает его, а около 21 кГц — на 28,6 дБ.

За это приходится платить ростом шума на других частотах. На рисунке с линейной шкалой частот площадь под нулём равна площади над ним: средний по частоте уровень в децибелах сохраняется. Мощность же растёт, потому что подъём на 28 дБ весит в мощности гораздо больше, чем спад на 28 дБ. В примере полный шум вырос на 21,8 дБ, с −93,3 до −71,5 дБ относительно синусоиды полной шкалы, а пики шума достигают ±29 шагов, около −61 dBFS. В оригинале указано, что формирование сохраняет среднюю мощность дизера; расчёт и измерения показывают другое: сохраняется средний уровень в децибелах, а мощность растёт. Так, в сравнении коммерческих алгоритмов Алексея Лукина (2002) среднеквадратичный шум после формирования был на 4–25 дБ выше, чем у TPDF без формирования.

Зато на слух шум становится тише. Если взвесить спектр шума по порогу слышимости, фильтр первого порядка выигрывает около 4 дБ, девятого — около 20 дБ. Это оценка по простой модели, без маскировки и при уровне, на котором шум едва слышен. В прослушиваниях Лукина коммерческие алгоритмы снижали воспринимаемую громкость шума на 2–12 дБ по сравнению с TPDF. Производители заявляли больше: 618 компании Meridian — до 23,5 дБ субъективного улучшения, Sony Super Bit Mapping — качество «почти 20 бит» на 16-битном диске.

Ранние кривые критиковали за то, что подъём шума на высоких частотах добавляет звуку яркости. Оттенок звучания больше зависит от формы кривой в средней полосе, где действует маскировка, чем от высокочастотного подъёма. По оценке Каца, лучшие алгоритмы формирования дают на 16-битном CD качество, сравнимое с 19–20 битами, без заметного изменения тембра и потери окружения.

Как развивались алгоритмы

Путь к алгоритмам, которые Кац считает тонально нейтральными, занял около 10 лет. Хронология это подтверждает: от работы Гёрзона и Крейвена 1989 года до первых продуктов POW-R в 1999 году. Среди устройств формирования шума Кац называет также db Technologies 3000 Digital Optimizer, Waves L1 и L2 и процессоры Prism. Для таких вычислений нужна высокая точность — 56–72 бита: в одном из устройств весь сигнальный процессор занят только расчётом дизера.

Практика: один раз и в конце

Перед работой стоит убедиться, что DAW побитово прозрачна: при простом копировании и монтаже выход совпадает с исходником во всех разрядах. Проверяют это нулевым тестом. Так же проверяют обработку в режиме обхода (bypass): некоторые процессоры и в нём усекают сигнал до 16 бит без дизеринга.

Проверка на слух

Ошибки понижения разрядности слышны на затуханиях до тишины (fade to noise). На тестовом диске Chesky JD111 «Best of Chesky Classics and Jazz and Audiophile Test Disc, Vol. III» такое затухание записано трижды: трек 42 — без дизера, с искажениями квантования и потерей разрешения; трек 43 — с белым дизером, сигнал звучит гладко и без искажений примерно до −115 дБ; трек 44 — с дизером со сформированным спектром. Затухание до шума есть и на диске CBS CD-1, трек 20. Трек 43 полезно пропустить через эквалайзер и изменение уровня в своей DAW, с дизером и без: так слышно, что программа делает с тихими сигналами.

Вторая проверка — ослабить музыкальный фрагмент в DAW примерно на 40 дБ и слушать его в наушниках через тихий усилитель с большим усилением. Хорошая система сохраняет реверберацию и окружение даже на таком уровне; полезно прислушаться и к характеру самого шума. Так же сравнивают алгоритмы дизеринга: 24-битный фрагмент около −40 dBFS пропускают через каждый и слушают результат. Одни звучат зернисто, другие шумно или с искажениями. Большое усиление при этом преувеличивает высокочастотный шум формирования, который при обычной громкости незаметен; оценивать громкость шума стоит и при уровне, на котором он едва слышен.

Самопроверка

Почему RPDF-дизера недостаточно для затухания, хотя искажения он устраняет?

RPDF делает нулевой среднюю ошибку, но её средний квадрат зависит от положения сигнала между уровнями: от нуля на уровне до $\Delta^2/4$ посередине (таблица 1). На затухании тихий сигнал проходит через разные положения, и шум «дышит» вместе с ним. TPDF держит средний квадрат постоянным, $\Delta^2/4$.

Насколько шум 16-битного канала с TPDF в полосе 100 Гц ниже его уровня во всей полосе при 48 кГц?

По формуле (2): $10 \lg (24\,000/100) \approx 23{,}8$ дБ. Шум во всей полосе около −93,3 дБ относительно синусоиды полной шкалы, в полосе 100 Гц — около −117 дБ.

Мастер понизили до 16 бит с формированием шума, а потом при подготовке релиза подняли уровень этого 16-битного файла на 0,5 дБ. Что произошло?

Изменение уровня снова увеличило разрядность, и результат пришлось заново понизить до 16 бит — с усечением, округлением или вторым дизером. В любом случае добавилась новая ошибка, а высокочастотный шум первого формирования остался в сигнале. Формирование шума должно быть последней операцией: менять уровень нужно в 24-битном мастере.

После формирования мощность шума выросла на 20 дБ. Почему запись при этом может звучать тише по шуму?

Мощность выросла за счёт частот выше 12–15 кГц, где порог слышимости высок, а в области 1–5 кГц, где слух чувствительнее всего, шум опустился на 17–28 дБ. Воспринимаемая громкость шума зависит от его спектра относительно порога, а не от полной мощности.

Источники

• Katz B. Dither. в списке литературы → — длина слова при обработке; добавление случайного числа перед усечением и разные числа для каналов; термин redithering; шум около 1 LSB и −96 dB, слышимость окружения до −115 дБ, различие отношения сигнал/шум и динамического диапазона и их путаница в характеристиках; проверка ослаблением на 40 дБ; тестовые диски Chesky JD111 (треки 42–44) и CBS CD-1 (трек 20); «пелена» дизера; формирование шума и его средняя мощность (в оригинале); 56–72-битная арифметика; критика ранних кривых и роль средней полосы; около 10 лет разработки и качество 19–20 бит; перечень устройств; UV22; проверка обхода; дизеринг до 24 бит на выходе процессоров и отказ от накопленного дизеринга.
• Lipshitz S. P., Wannamaker R. A., Vanderkooy J. Quantization and Dither: A Theoretical Survey. в списке литературы → — §5.3–5.4: RPDF размахом 1 LSB линеаризует квантователь, но оставляет модуляцию шума; TPDF размахом 2 LSB делает постоянными первые два момента ошибки при средней мощности $\Delta^2/4$ и добавляет меньше всего шума, уровень на 4,8 дБ выше $\Delta^2/12$; §6: прослушивания с понижением с 16 до 8 бит; примечание 13: аналоговый шум как дизер.
• Zölzer U. Digital Audio Signal Processing. §2.2–2.3, с. 40–51. в списке литературы → — дизер перед квантователем, линеаризация, модуляция шума при равномерном дизере и её устранение треугольным; высокочастотный треугольный дизер $d_1(n) - d_1(n-1)$; гармоники при округлении и усечении тона в один шаг; обратная связь по ошибке и формирование спектра первого и второго порядка; библиография по Гёрзону и Крейвену (1989), Липшицу и Вандеркою (1986), Ваннамейкеру (1992).
• Painter T., Spanias A. Perceptual Coding of Digital Audio. Разд. II-A–II-C, табл. 1. в списке литературы → — порог слышимости в тишине (формула 1, приближение Терхардта), критическая полоса 920–1080 Гц около 1 кГц, маскировка тона шумом критической полосы до уровня на 4 дБ ниже.
• Montgomery C. 24/192 Music Downloads ...and why they make no sense. в списке литературы → — тон 1 кГц на −105 dBFS в 16-битном файле слышен над шумом; узкополосный анализ слуха; с формированием шума динамический диапазон 16 бит на практике около 120 дБ.
• Lukin A. Sonically Optimized Noise Shaping Techniques. в списке литературы → — сравнение алгоритмов Waves L1 и L2, POW-R, Super Bit Mapping, UV22, Cool Edit, Sound Forge, WaveLab: TPDF размахом 2 LSB как база, рост мощности шума при формировании, среднеквадратичный шум и воспринимаемая громкость, оценка громкости шума при едва слышном уровне, UV22 как дизер со специальным высокочастотным шумом.
• Katz B. More Bits Please!. в списке литературы → — 16-битный дизеринг как однократная операция в конце цепочки; искажения на затуханиях из-за неправильного дизеринга в DAW; шум микрофонного предусилителя как дизер при укорачивании выхода АЦП; дизеринг на выходе цифрового пульта.
• Stuart J. R. Coding High Quality Digital Audio. в списке литературы → — формирование шума предложено Гёрзоном и Крейвеном в 1989 году и реализовано в Meridian 618, 518 и Sony Super Bit Mapping; ссылки на доклады AES 1992 и 1993 годов; субъективный шум 16-битного канала с формированием как у 20-битного.
• University of Waterloo, Audio Research Group. Publications — выходные данные работ группы: «Dither in Digital Audio» (JAES, 1987), «Minimally Audible Noise Shaping» (JAES, 1991), «Quantization and Dither: A Theoretical Survey» (JAES, 1992).
• Studio Sound, Product Guide, ноябрь 1994 — Meridian 618: десять кривых формирования шума, до 23,5 дБ субъективного улучшения по данным производителя, 72-битная обработка; Apogee UV-1000 и процесс UV22 с энергией около 22 кГц.
• Super Bit Mapping (SBM), Sony’s CD mastering technique — Stereophile, январь 1993, копия статьи — демонстрации SBM в 1992 году, использование с января 1992 года, «почти 20 бит» на CD по данным Sony.
• Apogee. Dither and UV22: What does dither do? — описание UV22: высокочастотное смещение около 22 кГц, шум на 4–5 дБ ниже плоского дизера, UV22 не называется дизером.
• Wikipedia. POW-R — консорциум Lake Technology, Weiss Engineering, Millennia Media и Z-Systems, разработка в 1997–1998 годах, первые продукты в 1999 году.