Роден е в малешевската паланка Берово (днес в Република Македония). До 20-годишна възраст живее в родното си село. След спречкване с турския главатар, който задирял сестрите му, Ильо Марков заминава за Рилския манастир при свой роднина калугер, където е назначен за пандурин (пазач). През тези години (1830 - 1838) ходи винаги с оръжие, гони турците и разбойническите шайки, среща се из Рила с хайдути, които намират подслон в манастира. Там се среща с Неофит Рилски и други просветни дейци.

Към 1838 г. се оженва и се връща в Берово. През 1850г. след скарване с Ильо, беровския Мехмед байрактар стреля из засада и ранява брат му. За да си отмъсти, Ильо убива турчина и излиза в планината. Събира малка дружина, с която броди няколко години из Малешевско, Пиянец и Осогово.

Участва в легията на Г. Раковски в Белград и в Сръбско-турската война от 1876г. Тогава е награден за храброст, но за малко не е убит от сръбски куршум след спречкване с адютанта на един сръбски офицер.
През Руско-турската война 1877-1878г. е в услуга на руската армия. Действа със своята чета и на два пъти през януари 1878г. освобождава Кюстендил. Получава орден за храброст и около 2 месеца до април 1878г. е владетел на ''българско царство'' в Малешево.

След освобождението на България се установява в Кюстендил. Участва в Кресненско-Разложкото въстание от 1878г., в което води чета. После получава пенсия като поборник. По настояване на Стефан Стамболов, Народното събрание му отпуска пенсия от 220 лева месечно.

Въпреки напредналата си възраст, на 80 ГОДИНИ (!) с четата си участва и в Сръбско-българската война през 1885 г. Води своя чета, с която се сражава със сърбите при Брезник, Сливница, Враня, Краище и село Извор. Сръбското правителство му отнема отпусната от княз Обренович пенсия.

През 90-те години, когато започва активното четническо движение в Македония и Одринско, Ильо войвода с интерес следи събитията и поощрява четниците, минаващи през Кюстендил. Престарелият Ильо войвода дава ценни съвети при изграждането на четническия институт на ВМОРО. Необикновената храброст на Ильо войвода и подвизите му са възпети в множество народни песни и още приживе му създават легендарна слава. Издъхва в Кюстендил през 1898 г. Погребението му, в което участва целия град, многобройни привърженици, почитатели и приятели, се извършва тържествено и с почести. Днес е ''почетен гражданин'' на Кюстендил.