Si estás usando un controlador midi puede que se deba a que envía de ese modo los incrementos. Entonces habría que leerse la implementación midi del teclado o superficie con la que controlas Nuendo para ver qué puede hacerse al respecto. Hay precedentes como la serie PCR de Edirol, en cuyos primeros modelos hubo que ajustar el envío de incrementos enviándolos de nuevo a la fábrica porque no los enviaba en números enteros como es tu caso.
si usas la rueda del raton para mover los controles de cubase debes configurar los valores de la rueda en propiedades del mousse dentro del panel de control en windows.