Родился 28 декабря 1897 года в деревне Лодейно Вологодской губернии (ныне — Подосиновского района Кировской области) в семье крестьянина. Окончил Николо-Пушемское земское училище в соседнем селе Щёткино в 1912 году. С 15 лет работал на сезонных работах на лесных биржах в Подосиновце и Архангельске. Участник Первой мировой войны. Весной 1916 года призван в Русскую императорскую армию. Окончил учебную артиллерийскую команду, служил в резервной тяжёлой артиллерийской бригаде (Москва), затем младший унтер-офицер Конев в 1917 году был направлен на Юго-Западный фронт. Воевал в составе 2-го отдельного тяжёлого артиллерийского дивизиона. Демобилизован в январе 1918 года. В том же 1918 году вступил в большевистскую партию, был избран уездным военным комиссаром в городе Никольске Вологодской губернии. После этого воевал в рядах Красной армии на восточном фронте против частей Русской армии, Дальневосточной армии и японских интервентов в Забайкалье и на Дальнем Востоке. Был комиссаром бронепоезда, комиссаром стрелковой бригады во 2-й Верхнеудинской стрелковой дивизии, комиссаром этой дивизии, комиссаром штаба Народно-революционной армии Дальневосточной республики. Принимал участие в подавлении Кронштадтского восстания в 1921 году. После окончания Гражданской войны — военком 17-го Приморского стрелкового корпуса. С августа 1924 года — комиссар и начальник политического отдела 17-й Нижегородской стрелковой дивизии. Окончил Курсы усовершенствования высшего начсостава при Военной академии РККА имени М. В. Фрунзе в 1926 году, затем был командиром и комиссаром 50-го стрелкового полка этой же дивизии. С 1932 по 1934 учился в Особой группе Военной академии имени М. В. Фрунзе. С декабря 1934 года командовал 37-й стрелковой дивизией, с марта 1937 года — 2-й стрелковой дивизией. В 1935 году получил звание комдива. В августе 1938 был назначен командиром группы усиления монгольской армии, вводившейся на территорию Монгольской Народной Республики, которая, объединившись с остальными советскими войсками в Монголии, с сентября стала называться 57-м Особым корпусом, первым командиром которого стал Конев. С сентября 1938 года — командующий 2-й отдельной Краснознамённой армией со штабом в Хабаровске. С июня 1940 года командовал войсками Забайкальского военного округа, с января 1941 года — Северо-Кавказского военного округа. В Великую Отечественную войну генерал-лейтенант И. С. Конев вступил в должность командующего 19-й армией, сформированной из войск Северо-Кавказского военного округа. Армия первоначально была направлена на Юго-Западный фронт, но уже в начале июля из-за катастрофического развития обстановки на западном направлении переброшена на Западный фронт. Однако она не успела прибыть в район Витебска, в ходе дальнейшего Смоленского сражения соединения 19-й армии оказались в окружении, но сам И. С. Конев избежал плена и сумел вывести из окружения управление армии с полком связи. В августе 1941 года его 19-я армия (с новыми дивизиями) участвовала в Духовщинской операции. Действия Конева на посту командующего армией было высоко оценены И. В. Сталиным. 11 сентября 1941 года И. С. Конев был назначен командующим войсками Западного фронта, 12 сентября ему было присвоено звание генерал-полковника. Командовал войсками Западного фронта чуть более месяца (сентябрь — октябрь 1941 года), за это время фронт под его командованием потерпел одно из тяжелейших поражений за всю войну в Вяземской катастрофе. От суда и возможного расстрела Конева спас Г. К. Жуков, предложивший оставить его заместителем командующего фронтом, а через несколько дней рекомендовавший Конева на должность командующего Калининским фронтом. Этим фронтом Конев командовал с октября 1941 по август 1942 года, участвовал в битве за Москву, провел Калининскую оборонительную операцию и Калининскую наступательную операцию. С января 1942 года имя Конева тесно связано с тяжелейшей и малоудачной для советских войск Ржевской битвой, его войска участвовали в Ржевско-Вяземской операции 1942 года, потерпели новое поражение в Холм-Жирковской оборонительной операции. С августа 1942 года по февраль 1943 года Конев снова командовал Западным фронтом и совместно с Г. К. Жуковым провёл Первую Ржевско-Сычёвскую операцию и операцию «Марс», в которых войска его фронта при огромных потерях добились лишь незначительного продвижения на несколько десятков километров. В феврале 1943 года также неудачно была проведена Жиздринская операция, после чего в конце февраля Конев был снят с поста командующего Западным фронтом и назначен командовать гораздо менее важным Северо-Западным фронтом. Однако и там ему не удалось отличиться, войска этого фронта понесли тяжелые потери и не добились успеха в Старорусской операции. В июле 1943 года Конев назначен командующим войсками Степного фронта, во главе которого сумел добиться успехов в Курской битве, в Белгородско-Харьковской операции и в битве за Днепр. В августе 1943 года войска Степного фронта Конева освободили Белгород и Харьков, в сентябре 1943 года — Полтаву и Кременчуг, действуя в ходе Полтавско-Кременчугской операции. В конце сентября 1943 года его армии с ходу форсировали Днепр. В октябре 1943 года Степной фронт был переименован в 2-й Украинский фронт, Конев остался его командующим и в октябре — декабре 1943 года провёл Пятихатскую и Знаменскую операцию, а в январе 1944 года — Кировоградскую операцию. Грандиозным успехом Конева как полководца стала Корсунь-Шевченковская операция, где впервые после Сталинграда была окружена и разгромлена крупная вражеская группировка. За умелую организацию и отличное руководство войсками в этой операции 20 февраля 1944 года Коневу было присвоено воинское звание Маршала Советского Союза. В марте — апреле 1944 года он провёл одно из самых успешных наступлений советских войск — Уманско-Ботошанскую операцию, в которой за месяц боев его войска по распутице и бездорожью прошли на запад свыше 300 километров и 26 марта 1944 года первыми в Красной Армии перешли государственную границу, вступив на территорию Румынии. С мая 1944 года и до конца войны командовал 1-м Украинским фронтом. В июле — августе 1944 года под его командованием войска фронта разгромили группу армий «Северная Украина» генерал-полковника Йозефа Гарпе в Львовско-Сандомирской операции, захватили и в последующих двухмесячных боях удержали Сандомирский плацдарм, ставший одним из трамплинов для удара по гитлеровской Германии. Также часть сил фронта приняла участие в Восточно-Карпатской операции. В январе 1945 года войска фронта в результате стремительного удара и обходного маневра в Висло-Одерской операции помешали отступавшему противнику разрушить промышленность Силезии, имевшую большое экономическое значение для дружественной Польши. В феврале 1945 года войска Конева провели Нижне-Силезскую операцию, в марте — Верхне-Силезскую операцию, добившись в обоих существенных результатов. Блестяще действовали его армии в Берлинской операции и в Пражской операции. После войны в 1945—1946 годах — главнокомандующий Центральной группы войск на территории Австрии и Верховный комиссар по Австрии. С 1946 года — главнокомандующий Сухопутными войсками — заместитель министра Вооружённых Сил СССР. С 1950 года — главный инспектор Советской Армии — заместитель Военного министра СССР. В 1951—1955 годах — командующий Прикарпатским военным округом. В 1953 году — председатель Специального судебного присутствия, судившего Л. П. Берию и приговорившего его к смертной казни. В октябре 1957 года во время исключения маршала Жукова из состава ЦК партии стал на сторону его противников. В 1955—1956 годах — 1-й заместитель министра обороны СССР и Главнокомандующий Сухопутными войсками. В 1956—1960 годах — 1-й заместитель министра обороны СССР, c 1955 года — одновременно Главнокомандующий Объединенными вооруженными силами стран Варшавского договора (в этом качестве руководил подавлением венгерского восстания 1956 года). В 1960—1961 годах и с апреля 1962 года в Группе генеральных инспекторов МО СССР. В 1961—1962 годах, в период Берлинского кризиса — главнокомандующий Группой советских войск в Германии. Умер 21 мая 1973 года. Похоронен на Красной площади у Кремлёвской стены.