Такая неприятность для МАХа вообще типична... в какой-то степени с этим можно бороться так: если объект очень сложный (делаешь целую серию булевых операций и\или других модификаторов), то после каждой логической операции превращай булевский А-объект в обычную сетку (Edit\Snapshot) и затем проводи булеву операцию уже с не с булевым объектом, а с только что созданным EditableMesh - этим ты сильно облегчишь работу процессору.
Такая процедура, конечно, не гарантирует отсутствие булевых ошибок, но здорово снижает их вероятность (да и любой другой модификатор корректнее сработает)... кстати во время сложного (многоступенчатого) булевского конструирования МАХ вообще часто зависает, описанный способ неплохо спасает и от этой напасти.