Либо программа будет сжирать много FPS, либо видео будет весить намного больше.
OBS Studio - просадка замечается лишь местами. Однако файл видео будет немало весить, если не подточить нормально настройки.
ShadowPlay - вариант, если у тебя видеокарта Nvidia. Редкие просадки, размер видео немалый.