日清戦争中、政府と与党は挙国一致でその遂行にあたり、戦後は第2次伊藤内閣と衆議院第一党の自由党は戦後経営をめぐり共同歩調をとり、1895年（明治28年）11月、この両者は公然と提携を宣言し、軍備拡張などの予算案を認めました。翌年4月には、板垣退助が内務大臣として第2次伊藤内閣に入閣し、事実上の連立内閣となりました。また、伊藤内閣のあとに成立した第2次松方内閣は、進歩党（立憲改進党の後進）と提携し、大隈重信が外相となりました。この内閣を松隈内閣といいます。

1898年（明治31年）、第3次伊藤内閣は戦後経営の財源を増やすため、地租増徴案を議会に提出しましたが、自由党と進歩党が反対し、同案は否決、衆議院は解散されました。同年、自由党と進歩党は合同して憲政党を結成し、総選挙で絶対多数を制する形勢となりました。こうして伊藤内閣は退陣し、元老たちの推薦をうけた大隈重信と板垣退助が組閣を命じられ、大隈を首相とし憲政党を与党とする日本初の政党内閣が組閣されました。この隈板内閣（第1次大隈内閣）は、首相・内相・陸相・海相いがいはすべて憲政党員からなっていました。しかし、自由党系と進歩党の対立が原因となり、4ヶ月あまりで終わりました。

そのあと成立した第2次山県内閣は、一度憲政党（旧自由党系）と手を組み、1898年（明治31年）に地租増徴案を成立させ、地租率を地価の3.3％まで引き上げました。山県内閣は、その後政党の影響力を抑えるため、1899年（明治32年）に文官任用令を改正し、政党員が官吏になる道を制限し、1900年（明治33年）には軍部大臣を現役の大将・中将に限る軍部大臣現役武官制を確立し、治安警察法をつくり社会運動や労働運動を規制する政策をとりました。

1900年（明治33年）に、山県内閣のもとで衆議院議員選挙法改正が行われ、選挙権を得るための直接国税の制限額が10円以上に引き下げられたため有権者が倍増し、被選挙権の制限額が撤廃されるなど、国民の参政権が拡大しました。こうした状況に対し、憲政党は山県内閣との連携をやめ、伊東博文に接近し、星享らの指導により憲政党（旧自由党系）は解党し、同年9月に伊藤博文を総裁とした立憲政友会が結成されました。

立憲政友会は総裁伊藤博文と幹部の西園寺公望（1849～1940）・星享・松田正久・片岡健吉・尾崎行雄・原敬・大家育造らで構成されました。この立憲政友会を基礎とする1900年10月に成立した第4次伊藤内閣は半年余りで終わりましたが、これ以後、伊藤博文・山県有朋らは政治の第一線を退き、元老として背後から内閣を動かすようになりました。1901年（明治34年）に第1次桂内閣が成立すると、山県有朋の影響力により、藩閥・官僚勢力に基礎をおく桂太郎（1847～1913）と、伊藤博文のあとを継いだ立憲政友会総裁の西園寺公望が交代して内閣を組織する桂園時代がはじまりました。

元老は伊藤博文・山県有朋・黒田清隆・松方正義・井上馨・西郷従道・大山巌以外に、明治末期以降、桂太郎・西園寺公望が加わりました。明治時代の首相経験者は、大隈重信を除きすべて元老に列せられました。憲法や法令に明文上の規定はなかったものの、天皇の諮問に応じて内閣更迭にあたって後継の首相を推薦したり、重要な外交問題に参画するなど、事実上の明治国家運営の最高指導者でした。