Нажимаем P. Появится нода Rotopaint. Дважды кликаем ее. В окне вьювера выбираем тул, например, кривые или пэинт. Далее рисуем то, что нам надо. В преференсах этой ноды выбираем канал Alpha. Далее, коннектим к ней любую ноду, например, blur - кнопка B. Дважды клик на блюре и внизу в поле mask выбираем канал alpha.