Si alguna vez ha escuchado música digital, especialmente cualquier tipo de formato de audio con pérdida, entonces ha estado expuesto a una cuantificación matemática. hardware (por ejemplo, convertidores de digital a analógico). Pero la cuantización no se limita solo al audio. El término y sus usos también se aplican a otros campos, como la física o la imagen digital.
En un estudio de grabación, los micrófonos captan ondas de sonido de música analógica, que luego se procesan en un formato digital. La señal se puede muestrear a 44.100 Hz y cuantificarse con una profundidad de 8, 16 o 24 bits (y así sucesivamente). Las profundidades de bits más altas proporcionan más datos, lo que permite una conversión y reproducción más precisa de la forma de onda original.
Fundamentalmente, la cuantificación es un proceso complejo de redondeo que implica cierto nivel de imprecisión. Las computadoras funcionan con unidades y ceros, por lo que la conversión de analógico a digital se considera una aproximación cercana y no una copia exacta. Cuando se trata de música, la señal cuantificada no solo debe mantener la sucesión y la amplitud de los valores correctos, sino que la sincronización también debe ser precisa. El proceso debe garantizar que se mantenga el ritmo musical, con notas distribuidas uniformemente y ajustadas en los mismos ritmos (o fracciones de los mismos). De lo contrario, el audio puede acabar sonando o ser extraño para los oídos.
Este concepto de cuantificación se puede observar visualmente con un programa de edición de imágenes, como Photoshop. Cuando se reduce el tamaño de una imagen grande, se pierde información de píxeles debido al proceso matemático que maneja la tarea. El software realiza los cálculos y el redondeo para descartar los píxeles no deseados al tiempo que conserva la integridad general, la proporción y el contexto de la imagen. Las proporciones restringidas son tan importantes para las fotos como el ritmo para la música. Cuando se acerca y compara la versión redimensionada de la foto con la original, los bordes y los objetos tienden a aparecer algo gruesos o irregulares. Este aspecto visual de la compresión con pérdida se relaciona de manera similar con los tipos de archivos de audio digital. Más datos y / o menos compresión dan como resultado una mayor calidad general.