Петко Каравелов учи в Копривщица, но през 1856 г. баща му го изпраща в Енос, където да чиракува за абаджия при негов приятел. Там той учи в гръцкото училище и през 1858 г. му предлагат стипендия, за да продължи образованието си в Атина, но баща му го връща в Копривщица. Малко по-късно, със съдействието на видния копривщенец Найден Геров, Петко Каравелов заминава за Москва, където вече учи по-големият му брат Любен. След две години подготовка той постъпва в Историко-филологическия факултет на Московския университет, но след три години следване напуска и започва да учи право, дипломирайки се успешно.

След Освобождението на България участва активно в изработването на Търновската конституция. Той оглавява радикалното крило на Либералната партия и става министър-председател на България (1880 - 1881). Свален е от власт от княз Александър, с което започва Режима на пълномощията. След установяването на Режима на пълномощията заминава за Източна Румелия, където е кмет на Пловдив (1883 - 1884).

След възстановяването на Търновската конституция Петко Каравелов се завръща в София и отново оглавява правителство на Либералната партия (1884 - 1886). На този пост той извършва най-голямото си политическо дело - Съединението на България. През 1884 става редовен член на Българското книжовно дружество. При окончателното си напускане на България, с последния си Манифест от 26 август 1886 г. Батенберг назначава за регенти Петко Каравелов, Стефан Стамболов и Сава Муткуров. Пълен господар на регентите става Стамболов, а Каравелов напуска на 1 ноември 1886 г. Той и негови съмишленици са арестувани по време на русенския бунт на офицерите-русофили през февруари 1887 г. - русофилските бунтове. Обявява се против избора на княз Фердинанд I. През 1892 г. е осъден на 5 години затвор за съучастие в опита за убийство на Стефан Стамболов, при който загива финансовият министър Христо Белчев,[5] но през 1894 г. е амнистиран.

През 1896 г. основава Демократическата партия, която ръководи до смъртта си. Каравелов е министър-председател на Княжество България четири пъти, като последния му кабинет е в коалиция с Прогресивнолибералната партия и завършва с министерска криза.

Tой е брат на писателя Любен Каравелов и баща на Лора Каравелова - съпруга на поета Пейо Яворов.