Если необходимо организовать изолированную сеть между ВМ на нескольких хостах - трафик должен проходить через внешнюю физическую сеть. vDS чудес не сделает.
Вам достаточно добавить в существующий vSwitch отдельный аплинк, тоже самое сделать на втором хосте, и порты, куда включены эти аплинки выделить в отдельный VLAN или отдельную физическую сеть.