Ваш вопрос не очень понятен. Что именно вы хотите сделать и что значит "маскировать битмап"? Вы не хотите, что бы растровую текстуру было видно что ли? Ну так просто отключите ее или уменьшите процент ее видимости относительно базового цвета материала. Или вам нужно, что бы была видна только определенная часть растровой текстуры, а все остальное было бы основным цветом материала? Тогда используйте карту "mask" куда поместите свой битмап и его маску.