В принципе то ты прав, но проблема в том что у меня необходимо было поднять два сервера в качестве шлюзов. Ко второму шлюзу будет подключена только одна удаленная машина. А первый является шлюзом во внешнюю сеть.

Относительно твоего вопроса - на основном шлюзе прописал маршрут на удаленную машину, подключаемую ко второму шлюзу, так что-бы пакеты с IP-адрессом удаленной машины уходили на интерфейс eth0, а в ARP-таблицу прописал на IP-адресс удаленной машины МАС-адресс второго Linux-шлюза.

Надеюсь ответил на вопрос.