El 21 de septiembre (3 de octubre según el nuevo calendario) de 1873 nació en Moscú, en la familia del contratista de obras Serguéi Ivánovich Shmelyov y de su mujer Evlampia Gavrílovna, el quinto hijo, al que llamaron Iván. Los primeros recuerdos de su vida fueron los del orden sólido y estable de una gran casa de comerciantes. Al padre de Shmelyov le pertenecían unos baños públicos y una cuadrilla de carpinteros: 300 trabajadores. La cuadrilla de Shmelyov levantaba en Moscú los toboganes de hielo de la Máslenitsa, hizo los andamios de la catedral de Cristo Salvador y construyó las tribunas para la inauguración del monumento a Pushkin. La vida de la familia se distinguía por un peculiar democratismo de viejos creyentes. Amos y trabajadores ayunaban juntos, juntos guardaban los ritos y los preceptos morales de la antigüedad, iban juntos en peregrinación: no vivían simplemente uno al lado del otro, sino juntos. A los 6 años Iván hizo con su ayo Mijaíl Gorkin una peregrinación a la lavra de la Trinidad y San Sergio y recibió la bendición del célebre maestro espiritual de aquel tiempo, el stárets Varnava. Ese viaje está descrito en la novela «La peregrinación». Iván quería y respetaba mucho a su ayo, y muchos años después escribió: «Dos hombres formaron mi alma: mi padre y el carpintero Gorkin». Cuando Iván tenía siete años, su padre se cayó de un caballo sin domar, y el animal lo arrastró por el camino.
Serguéi Ivánovich murió el 7 de octubre de 1880. Vania, que quería a su padre con locura, observó el cortejo fúnebre por la ventana. Tras la muerte del cabeza de familia, los Shmelyov vivieron con dificultad, y los hijos ya eran seis. Evlampia Gavrílovna tenía olfato para los negocios, y los baños daban beneficios. Además, alquilaba parte de la casa a inquilinos. De carácter, la madre de Shmelyov era severa y despótica. Azotaba con varas a sus hijos con regularidad, porque sí, no por faltas cometidas. La educación en casa empezaba y acababa con la azotaina...
Las primeras letras, como era costumbre no solo en las familias de comerciantes sino también en las de la nobleza, Iván Shmelyov las aprendió en casa. Su primera maestra fue su madre. Con ella «pasaba» a Krylov, Tolstói, Pushkin, Gógol, Turguénev. En el sexto gimnasio de Moscú, donde ingresó en 1884, su círculo de lecturas se amplió: Tolstói, Uspenski, Leskov, Korolenko, Mélnikov-Pecherski se convierten en sus escritores predilectos. Sin embargo, el «símbolo de la fe» para Shmelyov fue siempre Pushkin. Para convencerse de ello basta leer sus artículos «El ideal fiel», «El secreto de Pushkin», «El encuentro anhelado». El nuevo profesor de letras de Iván Shmelyov fue Fiódor Tsvetáyev (tío, por cierto, de Marina Tsvetáyeva), con quien el talentoso alumno recibía por sus composiciones sobresalientes con dos y tres cruces, y empezó a escribir novelas y relatos imitando a Zagoskin, Mélnikov-Pecherski, Gleb Uspenski y Lev Tolstói.
Y en el verano de 1893 llegó de vacaciones a casa de unos parientes, inquilinos de los Shmelyov, una estudiante del Instituto Patriótico, Olga Aleksándrovna Ojterloni. Tenía dieciséis años… Olga procedía de un linaje noble escocés empobrecido, emparentado con la dinastía de los Estuardo. Su bisabuelo había llegado a Rusia en tiempos de Catalina II. Muchacha inteligente, leída y creyente, quería ser maestra rural. Iván se prendó de Olga desde los primeros días e iba a visitarla con regularidad. La madre de Iván estaba terminantemente en contra de esta amistad y la obstaculizaba por todos los medios.
Shmelyov terminó el gimnasio en 1894 e ingresó en la Universidad de Moscú, en la facultad de derecho. Evlampia Gavrílovna le encontró al hijo una novia rica, hija de comerciante, pero Iván y Olga se mostraron más tercos que la madre. En la finca propia, a orillas del Kliazma, celebraron una boda fastuosa, y los recién casados partieron de viaje de novios, primero a la lavra de la Trinidad y San Sergio, a ver al stárets Varnava, y después a Valaam. Varnava despidió al recién casado con estas palabras: «te elevarás por tu talento». Dos años más tarde salió el diario de Valaam de Shmelyov, con el título «En las rocas de Valaam». En la noche del 6 al 7 de enero de 1897 nació el hijo del matrimonio Shmelyov, Serguéi.
La paternidad llegará a ser uno de los temas más importantes de la prosa de I. S. Shmelyov. Pero de momento había que mantener a la familia, y «En las rocas de Valaam» se vendía mal. Acabó en que Shmelyov se olvidó de la actividad literaria durante ocho años. En 1898 Iván Shmelyov terminó la universidad, cumplió el servicio militar e ingresó en la abogacía de Moscú, pero la abogacía resultó «no ser lo suyo», una especie de doblez. En 1901 los Shmelyov se trasladan a Vladímir, donde el cabeza de familia empezó a trabajar como inspector de impuestos, un cargo que exigía continuos desplazamientos por la provincia profunda. A cambio, iba acumulando experiencia de la vida y de la profesión. Uno de los admiradores y estudiosos de la obra de Shmelyov, I. A. Ilyin, decía: «Cuando escribe, escucha cómo crece la hierba del ser ruso, cómo gime y se lamenta el alma rusa...».
Trabajando mucho y habiendo cobrado confianza en sus fuerzas, en 1907 Iván Shmelyov dejó el empleo y se consagró por entero a la creación literaria. Las obras prerrevolucionarias de Shmelyov se publicaron en las revistas «Rússkoie bogatstvo» y «Rússkaia mysl», así como en las antologías de la editorial «Znanie», organizada por M. Gorki. El relato largo «El hombre del restaurante» (1911) trajo la fama al autor. Como resultado de su trabajo se editó una colección de sus obras en ocho tomos. Antes de 1917 los lectores ya habían llegado a querer al escritor Shmelyov y los críticos lo elogiaban, comparándolo con Dostoyevski.
Shmelyov acogió con entusiasmo la revolución de Febrero de 1917, pero después de los acontecimientos de octubre su actitud hacia el nuevo poder se volvió profundamente crítica. En otoño de 1918 se marchó a Alushta, donde tenía una pequeña finca. Allí Shmelyov vivió todos los horrores de la guerra civil, que terminó para él con la detención y el fusilamiento de su único hijo, oficial blanco, víctima de las represalias contra los vencidos tras la caída del gobierno de Wrangel. Shmelyov buscó en vano la tumba de su hijo. Los acontecimientos de ese tiempo se reflejaron en el relato largo «El sol de los muertos» (1923), escrito sobre material autobiográfico. La casita de adobe de los Shmelyov en Alushta se ha conservado.
Ahora alberga el museo del escritor. En enero de 1922, tras lograr salir de la Rusia roja al extranjero para tratarse, Iván Serguéyevich escribe: «¡Estamos en Berlín! No se sabe para qué. Huí de mi pena. En vano... Olia y yo estamos rotos por dentro y vagamos sin rumbo...». De Berlín, por invitación de Bunin, se trasladan a París. Shmelyov aún no sabía que nunca volvería a su patria... Después de todo lo vivido, Shmelyov adelgazó y envejeció hasta quedar irreconocible. De hombre erguido, siempre vivo y animoso, se convirtió en un anciano encorvado y canoso. Shmelyov padeció toda la vida una úlcera de estómago, y la enfermedad se agravó...
Sin su esposa, que lo cuidaba y le creaba «el silencio y el orden», «lo que ya no hay en Rusia», no habrían existido «La peregrinación», «El año del Señor» ni todas las demás obras de Shmelyov. Olga Aleksándrovna Shmelyova falleció de repente, de un ataque al corazón, en 1936. Para distraer al menos un poco al escritor de sus pensamientos sombríos, los amigos le organizaron un viaje a Letonia y Estonia. Visitó también el monasterio de Pskov-Pechory y se detuvo junto a la frontera soviética. Alargando la mano por encima de la alambrada, arrancó unas cuantas flores.
Antes de su muerte, el 24 de junio de 1950, Shmelyov llegó al monasterio de la Protección de la Santísima Madre de Dios, a 140 kilómetros de París. Ese mismo día un ataque al corazón cortó su vida. La monja madre Feodosia, presente en la muerte de Iván Serguéyevich, escribió: «...un hombre vino a morir a los pies de la Reina del Cielo, bajo Su Protección».
En abril de 2000 el sobrino nieto de Shmelyov, Yves Gentilhomme-Kutyrin, entregó a la Fundación Rusa de la Cultura el archivo de Iván Serguéyevich Shmelyov. Y en mayo de 2001, con la bendición de Su Santidad el Patriarca, los restos de Shmelyov y de su mujer fueron trasladados a Rusia, a la necrópolis del monasterio Donskói de Moscú, donde se ha conservado la sepultura familiar de los Shmelyov.