В тех поддержке указали на ошибке в логах inventory service и просили проверить что алгоритм подписи не rsa-pss, если такой, то сказали использовать sha256rsa.
в сертификате, выданном с помощью шаблона vmware-ssl такие данные:
signature algorithm RSASSA-PSS
signature hash algorithm sha256
кто-то может подсказать как сменить в microsoft subca алгоритм подписи? в тех поддержке порекомендовали за этим обратиться к документации, но я нашел только тему на технете с изменением алгоритма через реестр и рекомендацией не пользоваться данным методом.