Хорошее описание алгоритма:
The diamond was ray traced with the Fresnel algorithm which accurately simulates the correct amount of reflection from glass based on angle of incidence.
Также:
http://www.cs.sfu.ca/~mark/ftp/Skigraph00/renderDiamonds.pdf - очень хорошее описание с картинками
http://www.worldofmaya.com/t2_mat.html - для Майки
http://www.valisgroup.com/p-vglooks.htm - можно купить готовый шейдер