Это так называемый Бандинг или Постеризация (от слова постер). Не хватает полутонов, цвета получаются дискретными. Возможно у вас сверху стоят корректировочные слои которые дополнительно раздвигают диапазон цветов.
Универсального решения нет. Помогает режим 16 бит на канал. Иногда даже помогает уже потом переключится в режим 16 бит, хотя лучше конечно изначально в нем создавать картинку.
Так же можно немного подмешивать монохромный шум. Поищите в гугле по запросу "бангдинг" и "постеризация"
