1. модем может работать без сплитера при отсутствующих телефонных аппаратов на линии.
2. передатчик тогда должен быть очень широкополосным.
3. помехи от этого передатчика будут давать на всё радиооборудование.

В теории можно попробовать сделать, но на практике это полный п....ц будет, так как подобрать те частоты, которые нужны модему для нормально работы это нужно быть очень крутым радио спецом. И потом модем работает не на одной частоте по телефонной линии, а на многих.