Военную службу будущий генерал от кавалерии начал в «Коннице Кянгерлы», которая в качестве почетного конвоя сопровождала императора Николая I во время нахождения его на Кавказе. За это Исмаил Хан был удостоен императором серебряной медалью на ленте ордена святого Владимира.
В 1839 году Исмаил Хан становится наибом, — помощником командира сотни, — в Закавказском конно-мусульманском полку. Уже через несколько лет Исмаил Хан становится начальником «Конницы Кянгерлы». После начала Восточной (Крымской) войны он получает назначение в Эриванскую дружину, которая входила в состав Эриванского отряда русских войск. В составе дружины участвовал в разгроме корпуса Селим-паши.
Во время русско-турецкой войны 1877-1878 года Исмаил хан отличился во время так называемого «Баязетского сидения» — обороны крепости Баязет, которую русские войска удерживали в течение 22 дней. За этот подвиг Исмаил Хан Высочайшим приказом «за примерную храбрость и распорядительность, оказанные во время блокады» был удостоен ордена святого Георгия IV степени.
Свое прошение об отставке Исмаил Хан передал императору Николаю II в возрасте 89 (!) лет. Император, приняв во внимание «весьма продолжительную и боевую службу генерал-лейтенанта Исмаил Хана» своим Высочайшим приказом произвел его в генералы от кавалерии с увольнением от службы с правом ношения мундира. За все время службы Исмаил Хан стал кавалером сразу нескольких высших орденов Российской империи: святого Георгия, святого Владимира, святой Анны и святого Станислава.