ага, а полигональная сетка не растр значит? По сути-то теже самые дискретные "кусочки", они же полигоны (если уж совсем строго - треугольники). По поводу дырок текстурой- для плоскости идеал Shape Merge. Вообще любой сплайн проецирует. Дыру в произвольной поверхности сделать - тоже проще пареной репы. Берём круг, сплайновый, секций этак из 6-8, на плоскости с помощью добавления дополнительных рёбер (инструментом Cut) доделываем нужную сетку (чотб получился 6 или 8 угольник соответственно, при этом нельзя забывать о правильности сетки, чтоб не абы как было нарезано). Потом вершигы с помощью привязки прилепляем к круглому сплайну. В режиме 2,5D в нужной проекции (например, вид сверху). Далее сглаживаем и получаем ровную дырку. Иногда проще сделать булевскими операциями, но не стандартными максовскими, а плагином PowerBoolean.