Este monasterio es, sin duda, uno de los más importantes de La Rioja a pesar de que el conocimiento que se tiene de sus estructuras, dependencias e incluso su historia sea bastante limitado. El monasterio se habría fundado en la época de la recuperación del territorio, cuando se restauraron o levantaron de nuevo una larga serie de cenobios. La fecha de su instauración ha sido motivo de discusión debido a la falsificación del documento considerado fundacional. Aún así, esta habría que situarla durante el reinado del Sancho Garcés I de Pamplona (905-925), y seguramente durante este último año. También se ha considerado que el monasterio pueda tener antecedentes pre-islámicos, si tenemos en cuenta la existencia de restos de una iglesia del siglo VII en el lugar cercano de Las Tapias e incluso de un posible origen eremítico situado en las cuevas del mismo monasterio.

Tampoco se puede asegurar que aquella primera comunidad fuera benedictina, aunque se lo considera muy probable. Sancho Garcés I y la reía Toda también dotaron espléndidamente el monasterio con bienes que pudieran garantizar su mantenimiento. El año 950 pasó a depender de aquí la comunidad monástica de San Prudencio de Monte Laturce, establecida poco antes no lejos de aquí, a levante. El lugar se convirtió en un centro importante y de gran envergadura y del que se conoce su escritorio gracias al encargo de un manuscrito efectuado por el obispo de Le Puy-en-Velay y del códice conocido como Chronicon Albeldense. Entre los años 1033 y 1092 el monasterio se convirtió en sede episcopal, lo que favorecería que entre el 1167 y 1180 se convirtiera en una canónica seguidora de la Regla de San Agustín. Poco a poco, con el desplazamiento de los centros de poder, la canónica fue perdiendo importancia y en 1435 fue unida a la colegiata de La Redonda de Logroño.

Parece claro que el conjunto monástico estaría formado por un asentamiento con las dependencias principales y de servicios comunes a la comunidad alrededor del cual se encontraban una serie de cuevas donde vivía una parte de los monjes donde llevarían una vida de tipo eremítico. Se piensa que el núcleo de edificios monásticos estaría actualmente ocupado por el centro histórico de Albelda de Iregua, concretamente en el sector donde ahora está la iglesia. Aunque se han encontrado restos de construcciones en el pueblo, éstas no han podido identificarse con concreción. Lo contrario ocurre con las cuevas o estructuras excavadas, luego utilizadas como bodegas y que se las ha llamado "columbarios".