Любен Гоцев е роден в семейство на сарач. Баща му става член на БКП след Деветосептемврийския преврат, а майка му е безпартийна.

Става член на Работническия младежки съюз непосредствено след 9 септември 1944 г. като ученик в 7-а мъжка гимназия "Черноризец Храбър" в София. През 1946 г. се прехвърля в Строителния техникум "Христо Ботев", където завършва през 1948 г.

След края на средното си образование постъпва на работа в "Дирекция на трамваите и осветлението" като чертожник до средата на 1949 г. По това време е председател на ДСНМ в квартал "Модерно предградие" и взема участие в бригадирското движение. През юли 1949 г. е изтеглен на работа в Районния комитет на ДСНМ - Димитровски район в София, където завежда отдел "Средношколска младеж" до септември 1950 г., когато отива войник в Школата за запасни офицери (ШЗО). Произведен е в звание младши лейтенант още като войник, а след службата си в Българската народна армия (БНА) е изпратен в поделение на Вътрешни войски. През 1952 е приет за член на БКП. Уволнен по негово желание от Вътрешни войски през декември 1953, постъпва на работа в Димитровски районен комитет на БКП в София като технически секретар, а после като политически помощник на първия секретар на районния партиен комитет. След това е инструктор по училищата.

Работи по международните организации, Западна Европа, САЩ и Канада, дипломат е в Постоянното представителство в Организацията на обединените нации, Ню Йорк (1963 - 1968, 1971 - 1974). В периода 1974 - 1982 е заместник-началник на Първо главно управление (външното разузнаване) на Държавна сигурност. Заема постовете заместник-министър на външните работи (1982 - 1989) и първи заместник-министър на вътрешните работи (1989 - 1990).

Гоцев ръководи предизборния щаб на БСП от март до юни 1990 година, когато е избран за депутат в 7-о велико народно събрание и за председател на парламентарната Комисия по националната сигурност. През есента на 1990 година за кратко е министър на външните работи във второто правителство на Андрей Луканов. От февруари до декември 1991 г. е посланик в Нидерландия.

През 1992 година Любен Гоцев се оттегля от политическия живот, занимава се известно време (1993 - 1999) с частен бизнес. Той е сред основателите на Движението за единство и развитие (наричано "генералско движение") в БСП през 1997 г. Според писателя Георги Стоев ген. Любен Гоцев е истинският кръстник на така наречената българска мафия.