AE не поддерживает векторные маски как илюстратор поэтому нужно либу через буффер вставлять изображение либо из Ила экспортить изобр.. в файл, мне так привычнее, но это уже будет растр а не вектор. Если маска будет увеличиваться, делай DPI при экспорте побольше...