На слое сделай свой объект. Вокруг него удали все. Сохраняй файл в .psd (tiff, targa, gif, png).
Загружай на Diffuse, на вопрос collaps layer или individual layer выбирай второе. Если выберешь первое он слои свернет и альфа работать не будет. Копируй на Opacity. В Mono Cannel Output выбри alpha. Все.
Одна картинка - сама себе же и маска.