Это смесовая штука, напододие HardLight и SoftLight и зависящая от цвета фона. Как считается, есть в спецификациях на PDF 1.4.
http://partners.adobe.com/asn/developer/acrosdk/docs/filefmtspecs/PDFReference.zip (5.3 M) — спецификация на PDF 1.4
Или здесь http://partners.adobe.com/asn/developer/acrosdk/docs/filefmtspecs/PDF14Deltas.pdf (850K) начиная со страницы 143