政教首领为了便于维护统治，既互相勾结，又经常冲突，皇帝与教皇间的冲突集中地表现为争夺任命主教的权力，这实质上是争夺主教领地上的政权和捐税收入的斗争，教权阶层为了要摆脱世俗政权的控制而保持独立地位，力图建立以罗马教皇为中心的统治体系。从十世纪起在教权阶层中展开的这一加强教会权威的活动，称为克吕尼运动（因法国中部克吕尼修道院是这个运动的首倡者而得名）。运动的主要纲领是：教权应置于俗权之上，教皇由教廷的枢机主教们选举。反对世俗君主的干涉，任命主教权应属于教皇，反对世俗君主的任命权，在教士和僧侣中规定严格纪律，实行独身制度，以提高教会的威信，并对俗权保持独立，运动的最主要代表人物是教皇格利哥利七世｛1073－1085年｝。在实行这些纲领的过程中，引起与德皇亨利四世以及依附皇权的主教们的冲突。1075年，教皇命令规定各地主教的任免权在于教皇，世俗君主无权干涉教会事务。1076年，亨利就纠集国内忠于皇帝的主教，在沃姆斯召开宗教会议，宣布废黜教皇，教皇则在拉特兰召开会议，宣布开除皇帝教籍，废其帝位，并煽动大封建主反对亨利，亨利不得不亲到卡诺沙城向教皇请罪。待他实力增强后，又以武力把教皇驱逐出罗马，另立教皇，这场斗争直到1122年才暂时妥协。
霍亨斯陶芬朝腓特烈一世时继续推行侵略意大利的政策，他企图通过征服意大利，控制罗马教廷，以称霸基督教世界。因此六次远征意大利，但最终以失败告终，1254年，霍亨斯陶芬王朝结束，此后25年王位空悬，历史上称为“大空位时代”。随后的略布斯堡王朝和卢森堡王朝，皇帝也有名无实。1356年，卢森堡朝的查理四世颁布了《黄金诏书》（因盖有金色印玺而得名），规定皇帝由七大选侯推举，诸侯在领地内有完全的自主权，并有权宣战，这份诏书，使诸侯的独立更加合法化。
