1909年阎锡山学成归国，暗中在山西新军积蓄革命力量。1911年武昌起义爆发，他趁机发动太原起义，击杀山西巡抚，年仅28岁便出任山西都督，成为北方少有的响应革命的省份长官，孙中山也曾盛赞山西起义对全国局势的关键作用。可民国建立后，军阀混战的乱世开启，阎锡山开启了漫长的政治摇摆之路。

二次革命时他按兵不动，依附袁世凯，获封同武将军；袁世凯称帝失败后，他又转头投靠段祺瑞，坚守山西本土，推行“保境安民”的六政三事，兴办教育、整顿治安，让山西在连年战乱中相对安定。北伐战争爆发，他再次改换门庭，通电归附国民革命军，出任北路总司令，在蒋介石阵营中占据一席之地。中原大战爆发，他联合冯玉祥、李宗仁反蒋，最终因张学良拥蒋而战败下野。九一八事变后，蒋介石为拉拢地方势力，再度起用阎锡山主政山西。
抗战时期，他的生存策略被形容为“在三个鸡蛋上跳舞”，周旋于国民政府、日军、共产党三方之间。起初他与共产党合作抗日，依托牺盟会动员民众，可随后忌惮红色力量壮大，转而反共打压。

他苦心创办省立国民师范，本想培养忠于自己的人才，却走出了徐向前、薄一波等大批革命骨干，最终成为瓦解他统治的核心力量，这也成了他一生最大的讽刺。在数十年的权力博弈里，他一次次改换阵营，在各方势力之间夹缝求生，看似左右逢源，实则始终没有真正稳固的根基。