Не пойму тебя.
Галочка нужна для чего? Для того, чтобы во всех слоях стояли одинаковые параметры угла падения света. Если ты галку убираешь, то можно для каждого слоя делать свой угол. Его ведь можно сделать и таким же как у GL.
Как это может соотносится с рельефными поверхностями? Может после отключения галки у тебя сильно меняются параметры? Так ты возьми, сделай их похожими, а потом понемногу меняй их.