Для начала, надо лоуполи с разверткой сделать, ну или хотя бы автоматическую в Zbrush. Вставить оба меша в соответствующие слоты. В Хай-поли вкладке, предпоследняя галочка "ignore per-vertex-color", ее надо убрать, если стоит. bake highpoly's vertex color создает растровое изображение из vertex paint.