RLA - формат. Сжатие - RLE.
Если альфа - отдельный файл(ы), то класть его надо на слой выше слоя изображения сделать режим наложения изображения StencilAlpha - черными пикселями маскируются нижние слои; SilhuetteAlpha - белыми пикселями маскируются нижние слои; если не режим наложения, а TrackMatte (переключи нижнюю педальку Switches/Modes - увидишь) то влияние будет не на все слои ниже, а только на первый снизу. В результате сквозь прозрачные области увидишь нижние слои. Часто альфу приходится "трогать", т.е. производить над ней операции размытия/расширения/сжатия для достижения эффекта правдоподобности, отсечения краешков и т.п.
Если альфа в том же файле, то нужно "интерпретировать" (Ctrl+F в Bin) как файл с альфой или без нее. Premultiplied - предумноженная альфа на значения цвета, обычно черного (для "гладких" краев при композитинге); 3d пакеты по умолчанию умножают, а Photoshop пишет с простой альфой.
Соответственно, когда объект движется, нужен динамический альфа-канал, т.е. последовательность кадров, если неподвижен, то можно обойтись статичным.