Вероятно с точки зрения ядра это не второй а первый диск и на нём находится загрузочная запись. Поэтому если его удалить из набора железа то GRUB (или что там у вас?) не может отыскать её. Лечится переустановкой загрузчика. Рэдхатоподобные прекрасно оборудованы Rescuemod`ом попробуйте из него при этом целевая система будет ваша родненькая.