Родился в 1951 году. Окончил московскую спецшколу № 2 и Московский институт электронного машиностроения.
Во второй половине 1980-х редактор-издатель (вместе с Александром Барашом) одного из ведущих московских самиздатских проектов – альманаха «Эпсилон-салон».
С 1993 году вместе со Светой Литвак выступает организатором многочисленных литературных акций (ежегодный «Праздник рифмы», «Литературный карнавал», ряд выставок бук-арта и авторской книги) и перформансов (под эгидой учреждённого Байтовым и Литвак «Клуба литературного перформанса»).
В 1998 – 2005 годы – куратор литературного салона «Премьера» с еженедельными выступлениями поэтов и прозаиков.
Автор нескольких книг стихов и прозы, многочисленных публикаций в журналах и альманахах «Знамя», «Новый мир», «Черновик», «Улов» и других.
Лауреат Сетевого литературного конкурса «Тенёта» (1998, I место в номинации «Рассказы»), Премии Андрея Белого в номинации Проза (2011).
