Многие наверное мучаются с установкой SoftIce на компьютеры с процессорами HT или х64
Я, как большой поклонник SoftIce тоже столкнулся с этой проблемой.
Корректной работы я так и не добился, не смотря на установку различных патчей.
То Ctrl+D не срабатывает вовсе, то БСОДит система при попытке загрузки SoftIce.
Поиск альтернативных отладчиков ядра привел к Syser, но глюкавость этого отладчика это отдельный разговор и пришлось снова думать как же подружиться с «САйсом»
Итак.
Все проблемы связаны с прямой работой «Сайса» с видеопамятью.
Решение – использовать Visual SoftIce входящий в комплект Driver Studio
Принцип работы следующий: Visual SoftIce комплект Серверной и Клиентской части. Отладка приложения происходит на компьютере, где установлена TARGET чать Visual SoftIce.
Управление отладкой, дизасемблированный код, установка точек останова происходит на компьютере, где установлена HOST часть Visual SoftIce
Есть 2 варианта работы: Работать через Ethernet, имея в наличии 2 компьютера, либо работать через Именованные Каналы (PIPE – подробнее можно прочитать в WIKI) с виртуальной машиной.
Я использовал именно 2 вариант.
Итак начнем:
Устанавливаем виртуальную машину. (Я предпочитаю VMWare)
В настройках виртуальной машины заходим в настройки(1)

Нажимаем «Добавить устройство» (2) выбираем «последовательный порт»(3) жмем «далее»(4).

Выбираем из списка «Output to name pipe» и жмем
далее (next)

В появившемся окне вводим любое имя для нашего именованного канала. Жмем «финиш».
Далее устанавливаем на Виртуальную машину DriverStudio и выбираем тип установки “Target”
После установки, в настройках DriverStudio делаем так как на фотках:
Перегружаем Виртуальную машину. Настройка на этом закончена!
На основной системе устанавливаем DriverStudio. Тип установки HOST
После установки запускаем Visual SoftIce заходим в пункт DEBUG->Connect->Named Pipe
Вбиваем то имя, которое мы выбрали для именованного канала в виртуальной машине. Ждем подключения и работаем…
Подробностей писать пока не буду. Если такой темы небыло и кому то интересно – можно расписать все красивее и больше.