Здраствуйте, есть такая проблема. При переносе слоев в фотошоп, происходит такая вот штука. Я в коате начал работать совсем недавно, и может ошибка лежит где-то на поверхности) буду рад помощи.
Так 3D Coat переносит текстуру в photoshop. (и не только он. Substance Painter так же экспортит текстуры)
Пустое пространство вокруг шеллов развертки заполняется цветом (паддинг).
Сделано это для того, чтобы не вылазили швы на модели, если соседние шеллы развертки имееют, например, разные цвета.
Вот тут на буржуйском можно почитать http://wiki.polycount.com/wiki/Edge_padding