1. можно сразу в фотошопе сохранить в формате PSD, разбитый по слоям. а потом при импорте в after указать, что файл - не секвенция, а композиция.
2. можно пойти методом наобарот. (достаточно геморойно, но иногдва вариант) сохранить 2 картинки (неважно в каком формате), одна картинка исходная, а вторая содержит только черный и белый цвет. обе импортируются в after, вторая картинка помещается над исходной. на таймлайне в графе TrkMat исходного слоя выбирается значение Luma... (вместо точек название слоя над ним). получается что верхний слоя является слоем-маской для нижнего слоя. то что на верхнем слое черное на слое под ним прозрачное, серое - полупрозрачное, белое - не прозрачное. если указать luma inverted ... то будет наобарот.
может быть полезно если маска создавалась при отдельном рендере