Нагуглили, что в ~/.config/xfce4/mcs_settings/display.xml есть настройки разрешения... действительно там было 800х600, но смена на 1024х600 ничего не дала(