Принимал участие почти во всех выставках импрессионистов (за исключением второй выставки в 1876 году). На первой выставке импрессионистов 1874 года был представлен тремя картинами (пейзажи).
Будучи связан службой с городом, Гийомен писал, в основном, окрестности, пригороды Парижа, виды Сены, Уазы, Эссона и промышленные пейзажи. Результатом стали картины «Парк в Исси-ле-Мулино» (1877), «Мост в Шарантоне» (1878), «Вид острова Сен-Луи» (ок. 1881), «Пейзаж с яблонями» (1884), «Пон-Мари» (ок. 1883) и пр.
Познакомившись в 1883 году с Полем Синьяком, а затем и с Жоржем Сёра, он начинает работать в технике пуантилизма.
В 1891 году выиграл в городской лотерее 100 000 франков, и это неожиданное богатство дало ему, наконец, возможность развязаться со своей административной работой в Париже и начать путешествовать в поисках новых, более разнообразных мотивов и видов. Прежде всего художник побывал в Сен-Пале, где им были написаны «Сен-Пале, устье Жиронда» (1892), «Горы в Сен-Пале» (1893). В период с 1893 по 1913 годы Гийомен также побывал в Крёзе, Крозане, в Агэ, Оверни, департаменте Орн, Луэне, департаменте Эр, Руане, а в 1904 году посетил Голландию.
После 1913 года художник всё больше времени проводит в Крозане, зимой живя на юге и часто бывая в Париже.
Материальная независимость в последние годы жизни дала Гийомену возможность целиком посвятить себя живописи, но, потеряв контакт с бывшими друзьями, в особенности с Писсарро и Моне, он не смог возвыситься над своими ощущениями и растратил энергию на попытки стать сильным в цвете, в то время как оставался слабым в композиции, не обладая широтой видения и поэтической тонкостью, которые спасали Моне от банальности.
Художник скончался в июне 1927 года на восемьдесят седьмом году жизни. Ровесник Ренуара, Гийомен стал «последним импрессионистом»: он пережил на год даже Клода Моне, активно работал в первой четверти XX века, оказав реальное влияние на становление фовизма, поскольку его советами и примером руководствовался Отон Фриз.
