Situado en el número 20 del paseo de Recoletos, el edificio fue construido en 1892 por Francisco Jareño y Antonio Ruiz de Salces, sobre el solar en el que estuvo una huerta propiedad del oratorio de San Felipe Neri y donde en 1793 se había construido, en parte de los terrenos, la primera Escuela de Veterinaria de la villa.

Las obras para dedicar un edificio a Biblioteca Nacional, Archivo Histórico y Museo Arqueológico comenzaron en 1866, pero se interrumpieron durante el periodo revolucionario. En 1892 se inaguró el edificio, coincidiendo con la celebración de una efeméride histórica: el IV centenario del Descubrimiento de América. Es rectangular, con un patio interior dividido en cuatro partes por dos brazos en forma de cruz.

En el centro se sitúa la Sala de Lectura, de planta octogonal. La fachada que da a Recoletos es de estilo clásico con pórtico jónico en el cuerpo bajo y corintio en el superior. Se remata con un frontón triangular con relieve de Agustín de Querol que representa el Triunfo de las Ciencias y las Artes. Hay que destacar las magníficas esculturas de San Isidoro, Alfonso X, Luis Vives, Lope de Vega, Cervantes y Nebrija, y los medallones en los que aparecen las esfigies de Calderón de la Barca, Fray Luis de León, el padre Mariana, Quevedo, Garcilaso, Hurtado de Mendoza, Arias Montano, Santa Teresa de Jesús, Antonio Agustín, Tirso de Molina y Nicolás Antonio. La parte que da a la calle de Serrano se destinó a Museo Arqueológico, donde se encuentra la Dama de Elche, fundado por Isabel II, en 1867.  En el jardín, en un sótano construido en 1964, se instaló una réplica exacta de las pinturas paleolíticas de las Cuevas de Altamira.

La fachada, que da a la calle de Serrano, es de estilo clásico, con una escalinata ante un pórtico dórico, obra de Jareño, que también diseñó la verja que rodea los espléndidos jardines proyectados por Inza, en 1940. La Biblioteca Nacional tiene un fondo de más de tres millones de volúmenes, entre ellos, incunables, manuscritos, mapas, planos y otra serie de documentos en soportes informáticos.