Настоящее имя - Яков Абрамович Гольдштейн.

В 1961 году окончил Ленинградский инженерно-строительный институт (вечернее отделение).

В 1962 году окончил Ленинградский государственный университет (заочное отделение).

В качестве поэта-песенника написал песни к кинофильмам «Бушует «Маргарита» (песня «Петрушка»), «Мой добрый папа» (все песни), «Табачный капитан» (все песни), «Звезда в ночи» («Песня о Родине») , «А вы любили когда-нибудь?» (все песни) , «Чтобы быть счастливым!» (песня «Золотая рыбка»).

Как поэт-песенник является автором песен для таких знаменитых в СССР исполнителей, как Иосиф Кобзон, Эдита Пьеха, Людмила Гурченко, Валерий Ободзинский, Людмила Сенчина, Эдуард Хиль, Сергей Захаров, Анатолий Королёв, Ирина Понаровская, ВИА «Поющие гитары».

Одна из его дочерей, Алла Бахолдина, снималась в фильме Динары Асановой «Ключ без права передачи». Там она исполняет песню на стихи Булата Окуджавы.

В последние годы жизни Яков Голяков плотно сотрудничал с композитором Владимиром Михайловым и продюсером Василием Козловым. В результате этого сотрудничества, буквально за несколько месяцев до смерти поэта, был издан его единственный прижизненный авторский компакт-диск “Счастливый круиз” полностью с песнями на музыку Владимира Михайлова и стихи Якова Голякова.

Является автором трёх книг: «Репортаж с дырой на шее», «Словно день тому назад», «Галопом за ускакавшей натурой». Когда Яков Голяков писал книгу «Репортаж с дырой на шее» (издана в 2002 году), то уже был болен раком горла, именно поэтому книга получила такое название.

Скончался от рака горла. Похоронен на Востряковском кладбище в Москве.