Известная проблема. Часто возникает у фотографов, при обработке фотографий в Ps или допустим при полном подавлении шума. Практически не лечится. По-русски это называют эффект постеризации или бандинг.
ПОСТЕРИЗАЦИЯ - потеря количества уровней тонового диапазона, при которой ступенчатый переход от одного уровня тона к др. становится визуально ощутимым
Вообще такие проблемы иногда возникают у всех CG художников. Проблема как мне кажется в слишком малом количестве цветов, на плавных градиентах проявляются заметные границы цветовых переходов.
Лучше такого не допускать, т.е. работать в 16 bit и лишь в конце переводить в 8 bit/channel. Не полностью удалять шум, если при определенной операции появляется этот эффект, значит отказаться от не или сделать воздействие более мягким и тому подобное.
Если же это уже появилось можно добавить немного шума, лучше по маске, только к проблемным участкам. Шум разбивает ровные границы и скрывает этот дефект.