1917年5月21日，在京的北洋督军和督军代表由孟恩远领衔，具呈黎元洪，认为宪法会议通过的宪法条文，将导致议会专制，陷内阁于“颠危之地”，要求“将参众两院即日解散”。
5月21日，黎元洪与美国公使芮恩施密谈，美公使表示“允为后盾”。随后，黎召见督军团领衔呈请解散国会的孟恩远、王占元二人，训诫他们切勿超越宪法行事，并说时局的症结在内阁，段祺瑞“理宜引退”。
与此同时，黎元洪派钱能训到天津敦请徐世昌进京接替段祺瑞。段也委派张国淦为代表赴津，请徐世昌“接代”。徐拒绝出任总理。段祺瑞亲自登门拜访王士珍，请其“代理”，王吓得连连作揖，推辞不迭。
22日，段向黎提出补充阁员人选，其中大多是黎平素有好感的人。
23日，黎元洪发布三道命令，第一免去段祺瑞国务总理和陆军总长的职务，特任外交总长伍廷芳暂代国务总理；第二委派陆军部次长张士钰暂代陆军总长；第三委派王士珍为京津一带临时警备总司令，并派江朝宗、陈光远为副司令，黎通电各省，阐明“迫不得已”罢免段祺瑞的原因，希望段仍“内外一心，共图国是”。免段令交付印铸局印行之前，张国淦匆匆赶到总统府，劝黎元洪再加考虑，黎表示外交、军事都已有布置，未为所动。
段祺瑞当日仍以国务总理名义通电各省，声称免职令未经本人副署，将来地方及国家因此发生何等影响，“概不能负责”。随后，段即赴津。