Учился в Художественной академии имени В. А. Сурикова в Москве и начал свою карьеру в качестве иллюстратора детских книг в 1950-х годах. Он был частью группы художников-концептуалистов в Москве, которые работали вне официальной советской художественной системы. В 1985 году он получил свою первую персональную выставку в галерее Дины Вирни в Париже, а два года спустя переехал на Запад, где провел шесть месяцев в Кунстферайне Грац, Австрия. В 1988 году Кабаков начал работать со своей будущей женой Эмилией (они должны были пожениться в 1992 году). С этого момента вся их работа была совместной, в разных пропорциях в зависимости от конкретного проекта.