У меня была такая проблема с ATI, примерно год назад. Отредактировал xorg.conf, вписал ручное разрешение, остальные убрал. Помогло.

P.S.: "рябь" может быть из-за Compiz, помнится, как-то в настройках можно было включить другое устройство для вывода видео (или кодек что-ли, чтобы ряби не было).

Еще попробуй:

Выбери драйвер NVidia.