Los arquitectos Fernando Arbós y Tremanti y José Urioste y Velada ganaron el concurso de construcción de la necrópolis, que comenzó al año siguiente. El proyecto tenía en cuenta la topografía del terreno, una loma con el punto más alto situado a 695 metros, para que la construcción resultara menos cara por el menor movimiento de tierras y para que se produjera, por razones higiénicas, una buena circulación de aire. Con influencias de los cementerios de Génova y Viena, el cementerio se dividía en cinco bancales, cada uno cinco metros por debajo del anterior. En los muros de contención se ubicaban los nichos. La capacidad original de esta necrópolis era de 62.291 sepulturas, admitiendo 7.000 enterramientos al año, casi la mitad de la mortandad anual de la ciudad en esa época, que era de 15.000 personas.Durante 1884 y 1885, estando todavía en construcción la necrópolis, hubo una epidemia de cólera en la ciudad, por lo que se decidió habilitar un cementerio provisional, llamado «de epidemias», que comenzó a funcionar el día 15 de junio de 1884 y que se denomino Cementerio de Nuestra Señora de La Almudena. El 1 de septiembre dejaron de funcionar siete de los once cementerios de la ciudad, perviviendo sólo los de las sacramentales deSan Isidro, San Justo, Santa María y San Lorenzo.
Durante los primeros años del siglo XX se siguió con el proyecto de construcción a la vez que se preparaban nuevas ampliaciones. Así por ejemplo, en 1916 el arquitecto municipal Francisco García Nava, encargado de las obras desde 1905, aumentó las sepulturas a 81.638, con capacidad para 885.000 enterramientos (17.700 al año). En 1925 se inauguró oficialmente la necrópolis. Dos años después, García Nava, teniendo en cuenta los planes de ampliación y el índice de mortandad, calculó que el cementerio tendría capacidad hasta el año 2000, aunque tan sólo treinta años después ya tuvo que ampliarse.
