Да, с размытием масок в Рото есть проблемы, разработчики это признают.
На данный момент, действительно, самый простой способ равномерного размытия - это блюр отдельной нодой после рото. Но в этом случае, конечно, пропадает возможность использовать стек кривых, если у разных масок должна быть разная мягкость.
Наверняка, вы в курсе, но скажу еще, что можно размывать способом, похожим на фьюженовский Double-Polyline. Для этого нужно либо тянуть вершины маски, удерживая Ctrl, либо, при выделенных вершинах, нажать несколько раз "E"