Воспитывался в Аракчеевском кадетском корпусе, а с 1852 года во 2-м Санкт-Петербургском кадетском корпусе. Оставил корпус в 1858 году и поступил в Петербургский университет, после закрытия Петербургского университета в связи со студенческими волнениями осени 1861 года стал посещать классы Императорской Академии художеств, в качестве вольноприходящего ученика.
Получил от академии большую серебряную медаль и звание классного художника III статьи в 1864 году. В 1875 году примкнул к Товариществу «передвижников».
В 1906 году стал одним из учредителей Северного кружка любителей изящных искусств в Вологде. Благодаря авторитету Киселёва членам кружка удалось установить связи в Санкт-Петербурге и привлечь к участию в своих выставках живописцев Академии художеств. Работал в коллективе художников, оформлявших интерьер храма-памятника Александра Невского в Софии.
В 1902 году художник построил дом в Туапсе. Сейчас в Туапсе находится дом музей Киселёва. Скала между мысом Кадош и посёлком Агой названа скалой Киселёва.
Умер в Санкт-Петербурге в 1911 году.
Эту картину продают сейчас на аукционе в сети. Стартовая цена миллион восемьсот тысяч рублей.