Тут несколько вариантов, 1. возможно винда не активирована 2. возможно оборудование не поддерживает запись экрана, и что-то мне подсказывает что частично он использует наработку от xbox game bar, вот тут есть ссылка кодеков которые поддерживают запись экрана далее просто гуглим свой...