Нет, такое невозможно. ImageButton является элементом интерфейса, который не имеет функциональности ColorEdit. Чтобы вызвать ColorEdit с помощью ImageButton, тебе необходимо использовать imgui.ColorEdit3.
Но можно использовать imgui.ImageButton с функцией imgui.OpenPopup с параметром "ColorEdit", чтобы инициировать вызов Color Edit. Таким образом, ImageButton может использовать ColorEdit