Была аналогичная ситуация. Только ХР с СП3.
После подключения модема надо подтвердит поиск драйверов (не жать отмену как рекомендуется в инструкции). Дальше Авто-поиск драйверов. Драйвера к модему естественно не найдет. Но установит чтото другое
Понадобится дистрибутив винды.
После процедуры устанавливаем драйвера которые идут с модемом.
Если у вас на этой системе раньше все работало нормально. Проверьте запущенны ли службы типа
Logical Disk Manager
Removable Storage
Security Accounts Manager
Windows Management Instrumentation Driver Extensions
Попробуйте переустановить драйвера.