Сумбурное немного описание. Если правильно понял, по пробуйте после нанесения зажать CTRL и кликать по модели - это размывает маску. Если зажать CTRL+ALT и кликать по модели - это делает маску резкой.
Да, и не обязательно наносить маску в режиме DragRect. По пробуйте начать растягивать маску не на модели а на холсте в стороне, потом зажмите пробел и переместите на модель. По моему это больше подойдет. Ну и то что выше написано тоже работает.