Не знаю из-за чего это може быть - надо смотреть сцену..
Но у меня 2-а варианта решения проблемы:
1. Возможно контуры видны из-за блика или ещё какого-нибудть свойства материала, который сответственно тоже нужно замаскировать по маске фигуры.
2. Можно обвести фигуру по контуру обычным сплайном и сделать нулевой экструд через соотв. модификатор.
Т.у. грубо говоря сделать плэйн с фигурой точно по контуру этой самой фигуры - тогда и отражаться ничего лишнего не будет..