La Biblioteca de México se inauguró el 27 de noviembre de 1946 por el presidente Manuel Avila Camacho, quien estuvo acompañado del Lic. Jaime Torres Bodet, Secretario de Educación Pública, y de José Vasconcelos, su primer director, quien ocupó el cargo hasta su muerte en 1959.
La Biblioteca no entró en servicio de inmediato debido a la falta de personal. En marzo de 1947 inició sus actividades con una Sala General de Lectura y la Sala de Consulta, así como con un acervo de 40,000 volúmenes, que incluían colecciones de bibliotecas particulares pertenecientes a don Antonio Caso y a don Carlos Basave; volúmenes de la desaparecida Biblioteca de Ciencias Sociales, además la colección Palafox, integrada por obras sobre teología escritas en latín, que pertenecieron a diversas órdenes religiosas.
A la muerte de Vasconcelos, la doctora María Teresa Chávez Campomanes, pionera de la Biblioteconomía en México, ocupó el cargo hasta 1979; y bajo la tutela de la Dirección de Bibliotecas de la SEP, la Biblioteca de México se reestructuró e instauró el servicio de estantería abierta.
En la década de los 80s, la Secretaría de Educación Pública propuso crear el Centro Cultural Ciudadela; en ese tiempo la Biblioteca ocupaba la cuarta parte del edificio, que compartía con oficinas de la Secretaría de Gobernación, de la Defensa Nacional y escuelas de la SEP.
Tras de la intervención arquitectónica de Abraham Zabludovsky, la Biblioteca México fue reinaugurada el 21 de noviembre de 1988 por el presidente Miguel de la Madrid Hurtado, como culminación del Programa Nacional de Bibliotecas Públicas, del recientemente creado Consejo Nacional para la Cultura y las Artes (CONACULTA), y su director era Jaime García Terrés, quien ocupó el cargo hasta abril de 1996.
En ese mismo año, tomó posesión como director de la Biblioteca México, el también poeta y escritor, Eduardo Lizalde, quien continuó la labor de desarrollo de este importante recinto como Centro Cultural y de Lectura, la introducción de nuevas tecnologías de la información y la modernización de los servicios y la organización documental.
El 20 de noviembre del año 2000, el presidente Ernesto Zedillo develó la placa alusiva al otorgamiento del nombre de Biblioteca de México "José Vasconcelos". En el acto también estuvieron presentes el presidente de CONACULTA, Rafael Tovar y de Teresa y su director Eduardo Lizalde.
En el siglo XXI, la vocación de la Biblioteca de México como espacio destinado a la instalación de bibliotecas personales de prominentes intelectuales de nuestro país, constituye una inmejorable oportunidad para realizar una intervención de su edificio sede, bajo el proyecto denominado “La Ciudadela: ciudad de los libros”. Un recinto destinado a reconocer la encomiable labor de quienes conformaron y abrevaron en sus espléndidas bibliotecas cuya importancia y calidad podrán convocar a nuevos y cada vez más numerosos lectores. Quedaron así instaladas en los años de 2011-2012 las Bibliotecas Personales de José Luis Martínez, Antonio Castro Leal, Jaime García Terrés, Alí Chumacero y Carlos Monsiváis.
La transformación del proyecto cultural y de servicios de la Biblioteca de México, fueron concebidos con una visión de modernización que considera el uso de las nuevas tecnologías, además de una infraestructura que permite abrir mejores opciones de conservación para los materiales bibliográficos en beneficio de un mayor número de usuarios. A partir de marzo de 2019 la dirección de la biblioteca recae en el escritor e investigador José Mariano Leyva Pérez Gay.