По тестам Affect Shadow и без нею, на мой взгляд со снятой галочкой более правильный расчёт, может я заблуждабсь. Собственно со стеклом я знокомился вот по этому уроку http://www.3dcenter.ru/tutors/read.php?sname=vray&articlealias=VrayMtl2, и полностью соглясен с автором что Affect Shadow это имитация каустики...