Суретші 1950 жылы Ленинградта дүниеге келген. Жұмысының бағыты 1969 жылы К.С. Малевичтің тобына кірген суретші В. В. Стерлиговпен танысу нәтижесінде айқындала түсті. 1960-шы жж. басынан бастап В.В. Стерлигов өзінің шеберханасында бейресми сабақтар өткізіп, жас суретшілерге авангард бағытында ашылған дүниетаным мен пішін қалыптасуының қағидаттарын үйреткен. Басқа «стерлиговтықтар» секілді А.Н. Гостинцев орыс классикалық авангардының дәстүрлерін дамытып, абстрактілі бейнелеу тілін қолданып, жаңа тәсілдер мен материалдарды тауып отырады.

Рустам Халфин Петербордың стерлиговтықтарға жататын көптеген суретшілермен етене араласып, жақын дос болған, солардың ішінде Алексей Гостинцев те болған.

2018 жылы Алексейдің жұмыстары Kazarian Art Center орталығында өткен "В. Стерлигов мектебі: Санкт-Петербор – Алматы" көрмесіне қатысқан.