Думаю дело в ПО. Попробуй винду нормальную поставить, все дрова новые, visual c+, .net 2,3, и так далее. Директ последний и дрова на видюху (обязательно с оф-сайта скачать!!!)
Должно сработать.
ЗЫ Иногда такое происходит когда не хватает оперативы. сколько у тебя?