Może chodzi o to, że masz włączone ograniczenie kolorów przez HDMI w PS3? Opisane jak tutaj.
https://answers.yahoo.com/question/index?qid=20100414100442AAdBPmB
To miałoby sens, że wtedy nie ma płynnych przejść tonalnych i robią się takie efekty. Zwróciłbym też uwagę na ustawienia ostrości, może...