настройка Visual SoftIce под VmWare
 

Многие наверное мучаются с установкой SoftIce на компьютеры с процессорами HT или х64

Я, как большой поклонник SoftIce тоже столкнулся с этой проблемой.
Корректной работы я так и не добился, не смотря на установку различных патчей.
То Ctrl+D не срабатывает вовсе, то БСОДит система при попытке загрузки SoftIce.

Поиск альтернативных отладчиков ядра привел к Syser, но глюкавость этого отладчика это отдельный разговор и пришлось снова думать как же подружиться с «САйсом»

Итак.
Все проблемы связаны с прямой работой «Сайса» с видеопамятью.

Решение – использовать Visual SoftIce входящий в комплект Driver Studio

Принцип работы следующий: Visual SoftIce комплект Серверной и Клиентской части. Отладка приложения происходит на компьютере, где установлена TARGET чать Visual SoftIce.
Управление отладкой, дизасемблированный код, установка точек останова происходит на компьютере, где установлена HOST часть Visual SoftIce

Есть 2 варианта работы: Работать через Ethernet, имея в наличии 2 компьютера, либо работать через Именованные Каналы (PIPE – подробнее можно прочитать в WIKI) с виртуальной машиной.

Я использовал именно 2 вариант.
Итак начнем:

Устанавливаем виртуальную машину. (Я предпочитаю VMWare)
В настройках виртуальной машины заходим в настройки(1)
http://img132.imageshack.us/img132/2127/57725997jl0.jpg
Нажимаем «Добавить устройство» (2) выбираем «последовательный порт»(3) жмем «далее»(4).

http://img112.imageshack.us/img112/528/10861972pb2.jpg
Выбираем из списка «Output to name pipe» и жмем
далее (next)


http://img132.imageshack.us/img132/3640/82545597uk3.jpg
В появившемся окне вводим любое имя для нашего именованного канала. Жмем «финиш».

Далее устанавливаем на Виртуальную машину DriverStudio и выбираем тип установки “Target”

После установки, в настройках DriverStudio делаем так как на фотках:

http://img529.imageshack.us/img529/1396/62659304pk5.jpg
http://img152.imageshack.us/img152/4405/64506640jw5.jpg
http://img265.imageshack.us/img265/6853/69506565er3.jpg

Перегружаем Виртуальную машину. Настройка на этом закончена!

На основной системе устанавливаем DriverStudio. Тип установки HOST

После установки запускаем Visual SoftIce заходим в пункт DEBUG->Connect->Named Pipe

http://img151.imageshack.us/img151/2374/75086745pi6.jpg

Вбиваем то имя, которое мы выбрали для именованного канала в виртуальной машине. Ждем подключения и работаем… 

Подробностей писать пока не буду. Если такой темы небыло и кому то интересно – можно расписать все красивее и больше.

она vmware кстати говоря..
смысла отлаживать через vsice по ком порту я не вижу =)
я его юзаю для отладки по сети.
а для компорта kd сойдет

Интерфейс у него ЕБ@%№ТЫЙ :-) Не нравится он мне :-)
Я ж не заставляю :-) Юзай че хочешь :)

эм, вопрос, а зачем пайпы юзал? сосульку и так норм встаёт на варю :) тока конфиг, нада поправить, чтоб мышка работала в нём.

У меня не встает.эээммм.. ну всмысле Сайс на Варе :-).
То бсодит, то картинку не прорисоывает.. Поэтому и юзаю ВизуалСосульку с Пайпом
Тупит конечно но пашет

странно, я поднят на VMware WorkStation 5.5.2 без особых трудов, правда не визуал, а обычный...

ты про сайс или сисер?)
сайс у мну под варей ни в какую.. сайсер вообще заработал только один раз из 5-6 инсталов на разные тачки, надеюсь, ситуация улучшится, вроде крис присоединился к команде разработчиков сисера.

К тому же я свой дебуггер пишу уже хз сколько =)) Уже кое что есть, но, разумеется, показывать не буду.
Будет поддерживать отладку в 4 вариантах - через юзермодный гуй, через встроенный кернел гуй, по ком-порту и, возможно, по ethernet.

_Great_ опять выпендрился =)))

вам прямая дорога к ар4еру с кряклаба, 4тобы совместно быстро и результативно. и продукт выйдет хороший...

Хорошая статья, как раз для новичков