[pva]

1. Возможно дело в квантизации (неравномерная изогнутость линий). То есть заметен переход от RGB(10,10,10) к RGB(11,11,11), Такой же эффект может возникнуть при округлении (при целочисленной арифметике особенно).
2. Проверь ограничение значения косинуса угла между освещающим вектором и нормалью поверхности. Он может принимать отрицательные значения (как бы освещение изнутри). Влияет на появление артефактов освещения в тени.
3. Проверь ограничения на попадание в шар (при сканировании картинки) - освещение вне шара
4. В аттачменте примерно так оно работает (сделано в математике 4.0)
Понимаю, что текст математики выглядит мягко говоря непонятно... Если есть вопросы - охотно объясню.