Если смогли заставить X работать, у вас не должно быть проблем с установкой KDE. Кроме того, следующие ссылки могут оказаться полезными для вас:
Для портативных компьютеров с экзотическим разрешением экрана, типа 1024x600, вы можете попробовать отредактировать файл XF86Config (в случае RedHat он находится в каталоге /etc/X11). Если у вас есть некоторый опыт работы с этим файлом, вы должны знать где находятся строки с различными "Modeline". Вам только нужно будет добавить Modeline для вашего разрешения. К сожалению, формат строк Modeline довольно непонятен для непосвященных; т.е. вам придется много почитать. Один из источников информации может быть XFree86 Video Timings HOWTO.