Служба горючего постепенно вызревала еще с середины XIX века в недрах других служб, отвечающих за обеспечение нефтепродуктами. Уже в 1936 году потребление ГСМ Красной Армией составило примерно 450-700 тысяч тонн. Юридически служба горючего Красной Армии образовалась дважды. Первое название «Управление по топливу», вскоре заменили на «Управление снабжение горючим и смазочными материалами РККА». Оно возникло в рамках исполнения приказа РВС ССР №03 от 11 января 1933 г. В ноябре 1934 года, новое управление вошло в структуру Генштаба, став его 6-ым отделом, утратив снабженческие функции. Позже, 17 февраля 1936 года 6-му отделу ГШ фактически вернули статус Управления с правами Заказчика, окончательно определившим создание Службы горючего.

Незаменимое место в структуре Службы горючего занимают трубопроводные войска. В ноябре 1951 года было подписано постановление Совета Министров СССР об изготовлении опытного сборно-разборного трубопровода условным диаметром 100 мм и длиной комплекта 100 км. На основании этого постановления Военный Министр СССР Маршал Советского Союза Александр Михайлович Василевский 14 января 1952 года подписал директиву №24646. Этой директивой были поставлены основные задачи по организации подготовки офицеров-специалистов по эксплуатации полевых магистральных трубопроводов в Винницком военно-техническом училище, утвержден штат отдельного батальона перекачки горючего по трубопроводу №1 и дано указание о формировании батальона с его размещением на казарменном фонде склада горючего в Ильино. С тех пор 14 января считают датой образования трубопроводных войск и празднуют все трубопроводчики. Отдельный батальон перекачки горючего по трубопроводу №1 стал первой трубопроводной частью в Советской Армии, с которой началось создание трубопроводных войск.

В сентябре 1951 года в Винницком военно-техническом училище были проведены учения по опытной прокладке и эксплуатации 20 км полевого магистрального трубопровода, а в 1952 г. состоялся первый выпуск специалистов, предназначенных для службы в трубопроводных войсках. Первый трубопроводный батальон не только дал путевку в жизнь первому полевому магистральному трубопроводу отечественного производства ПМТ-100, именно здесь проводились войсковые испытания полевых магистральных трубопроводов ПМТП-150 и ПМТБ-200, в результате которых они были приняты на вооружение Советской Армии. В 1958 году в СССР было уже десять трубопроводных батальонов. В те времена трубопроводные части еще не получили статус трубопроводных войск. В 1959-1960 гг были проведены первые масштабные учения, которые доказали явные преимущества использования крупных трубопроводных формирований и наличия в России опытных офицеров-трубопроводчиков. Уже к маю 1961 года в составе Вооруженных Сил насчитывалось двенадцать отдельных трубопроводных батальонов, а в мае 1966 появилось две трубопроводные бригады. В 1977 г возникла необходимость в повышении качества подготовки младших специалистов трубопроводных войск, в которые стали интенсивно поступать сборно-разборные трубопроводы с соединением «Раструб», используемые и в настоящее время. В 1993 году в соответствии с приказом Министра Обороны Российской Федерации определено, что в состав тыла Вооруженных Сил входят трубопроводные войска, подчиненные службе горючего ВС РФ.

За годы своего существования трубопроводные войска значительно укрепили боеспособность Советской Армии. Было проведено множество масштабных учений, металлические сборно-разборные трубопроводы применялись при ведении боевых действий и ликвидации последствий чрезвычайных ситуаций, комплекты трубопроводов поставлялись за рубеж.