1927年7月7日,冯玉祥在洛阳宣布实行“清党”,规定不经军、师长许可,一律禁止开会;对于共产党人,要注明其何时入党何人作保,愿意走的发给川资,不愿离开而愿意留下工作的必须声明脱离共产党,听从国民党的指导,遵守国民党的规则,然后方可收容之。至于各级政治人员则一律开除,俟调到开封训练后再行另派职务。
9日,第二集团军政治工作人员一律被冯玉祥解除职务,加以甄别。接着,冯玉祥把部队工作的200多名共产党员和他管辖地区的地方中的共产党员干部40多人调到郑州,先请他们吃饭。然后对他们说:“你们到我这里帮了忙,你们要反蒋我是不能干的,我要和蒋介石合作反张作霖。在我的军队里二尺半的不能反蒋,你们要反蒋,愿意到哪里去就去哪里吧。”
冯玉祥发给他们路费,给刘伯坚1000元,科长以上每人100无,其余每人50元,然后用一个闷罐子火车皮,把这240多人拉到河南与湖北交界的武胜关,让他们下车,由他们自己选择去向。