По первому вопросу: V-ray Colormapping -> Sub-pixel mapping - ON и Clamp output - ON (clamp может и не понадобится).
По второму: Можно пытаться накручивать Ирмап, ЛК и Adaptive Amount опускать, но не факт что поможет. Можно просчитать ГИ в QMC. А можно поставить нормальными ИС свет выставить, для такой картинки и ГИ-то особо не нужно.