Кратко про фильтр Custom.
После введения некоторых значений в матрицу свертки, фильтр обрабатывает кажджый пиксель изображения или выделенной области.
Для текущего пикселя (назовем его PBE) фильтр умножает текущее значение яркости на значение из центральной ячейки мартицы (назовем его CMV). Затем фильтр умножает значения яркости пикселей, окружающих PBE на значения ячеек, расположенных вокруг CMV. При этом пустые ячейки матрицы и соответствующие им пиксели игнорируются.
Для вычисления нового значения яркости PBE фильтр суммирует произведения этих величин, делин результат на значение scale и прибавляет к результаты значение Offset.
Таким образом новое значение яркоcти пикселя равно (PBExCMV+NP1xMV1+NOP2xMV2+....)/Scale+Offset.
Ячейки матрицы могукт принимать занчения от -999 до 999, scale от 1 до 9999, offset - от -9999 до 9999.
Каких с этом помощью можно добиться эффектов -- почитайте Макклелланда, там неплохо описано и с примерчиками....