По всей видимости, Lenscare plugins вполне корректно работает с максовским z-каналом.
В примерах полностью отсутствуют артефакты на границах перехода от резкого объекта к разфокусированному фону и наоборот...
Например
http://www.frischluft.com/gallery/Lenscare/Jungle.jpg
Хотя нет :-((
Есть немножко:
http://www.frischluft.com/gallery/Lenscare/TaronTest.jpg