罗马教会认为，将查理曼加冕为奥古斯都和罗马皇帝，并不是宣告西方基督教世界从此与东罗马帝国分庭抗礼。在他们看来，476年西罗马末帝被废黜，并不标志着西罗马帝国的灭亡，而是标志着罗马帝国的归一，东罗马帝国重新成为单一的、没有分裂的罗马帝国。查理曼加冕为奥古斯都和罗马皇帝，意味着罗马帝国的正统皇统从“新罗马”——君士坦丁堡重新返回罗马城。
但是，因为东罗马帝国的皇统并未就此中断，所以此后基督教世界出现了两个并立的最高统治者，一个在君士坦丁堡，一个在罗马。他们并不像过去的东西罗马帝国皇帝那样和平并
立，而是彼此指责对方是僭越者，宣布自己是唯一真正而合法的基督教会和人民的领袖。从这一点来说，利奥三世通过为查理大帝加冕，使罗马教会（及其领地）摆脱了臣服于东罗马皇帝的从属地位。从此之后，罗马教皇成为西方基督教世界的最高宗教领袖。
不过，虽然800年的法兰克帝国御玺上写着“罗马帝国的再生”的字样，但是此后由罗马教会所加冕的历代神圣罗马皇帝不再像东罗马皇帝那样是基督教会的主宰，神圣罗马皇帝也不再像东罗马皇帝那样可以插手干预教会事务（甚至废黜罗马主教）。相反，教皇可以干涉世俗事务，通过将皇帝革除教籍的方式插手政务，此外，在罗马教会所拥有的中意大利地区的土地上，教皇也成为不折不扣的世俗君王。
从10世纪起，教皇国的声望因一系列事件而下降。首先，从思齐三世至若望十二世在位时期，罗马城贵族中的几个妇女通过成为教皇情妇而掌握了教廷大权，她们的儿子，以及儿子的儿子，都被立为教皇（比如教皇思齐三世与其情妇玛尔西亚所生的儿子若望十一世和孙子若望十二世）。从903年到963年的这段时期因此被称为“淫妇政治”（Pornocracy）时期。在这段时期里，教皇的政令只能在罗马城周边地区施行。其次，教皇国延续了伦巴底王国的封建体系，在教皇的领地上有许多伯爵和侯爵的封建采邑，他们都是几近独立状态的领主。
到10世纪中叶，日耳曼奥托一世征服了北意大利的领土。教皇约翰十二世将其加冕为神圣罗马皇帝。作为回报，奥托颁布了“Diploma Ottonianum”（奥托法令），承诺维
护教皇国的独立。虽然如此，在此后的两个世纪中，教皇国和神圣罗马帝国仍然时不时地发生摩擦。每当神圣罗马帝国皇帝想将其权力施展到意大利时，就要和教廷及教皇国发生冲突。皇帝对教皇的控制在亨利三世统治时期达到登峰造极的程度。亨利三世于1046年赴意大利，废黜了反对他的教皇格历高里六世。德国人克莱孟二世被选为新教皇，并为亨利三世加冕。此后他又多次废立教皇。亨利三世一直掌握了对德意志境内各主教的任免权。