О каком уменьшении речь? Resample или руками с помощью габаритной рамки? Если не ресэмпл, то разрешение фотографии увеличивается и она никак не может выглядеть хуже. Скорей всего это просто ваша видеокарта так отображает. Ничего страшного, при печати или экспорте, всё будет нормально.