Так то тебе нужны только exe и dll и только в этой папке, остальное это отладочный выхлоп.
Внешние библиотеки типа Newtonsoft.Json.dll (да и прочие диелельки) на этапе сборки проекта засунуть в исполняемый файл нельзя. Если очень нужно, ищи компакторы в интернете.
К винформам это никак не относится.