Если надо темные области сделать еще темнее, то способ немножко другой. Сам мучился с этим, а потом попробовал "в лоб" и получилось, как ни странно.
Делаешь все так же, как в первом способе, но в текстуре Mix ставишь наоборот: в белый слот темно-коричневый цвет, а в черный - текстуру дерева (можно просто нажать Swap). Потом лезешь настраивать VRayDirt.
Меняешь мечтами черный и белый цвет в occluded color и unoccluded color, как на картинке №2. Потом внизу в слот occluded color кидаешь карту Output. В ней параметр Output ставишь больше единицы, например 2. Можешь поиграться. Также в VRayDirt рекомендую чуть-чуть поднять параметр Distribution - чтобы края темной области были помягче.
И все. Результат - на картинке №3. Если параметры Output и Radius увеличить - можно получить еще большую затененность, как на картинке №4. Удачи.
Чуть не забыл. Параметр Subdivs надо ставить хотя бы 16, а лучше - 24, если область затенения большая. Меньше шумит.