1931年12月下旬，黄显声和熊飞组织了“辽宁抗日义勇军”。这支抗日武装，是在他们带领由沈阳撤出的部分警察和公安队，向锦州且战且退途中，黄以原辽宁省警务处长名义发布命令，组织各县民团、警察队，收编胡匪，消灭张学成、凌印清汉奸武装，统一改编而成的。总指挥部设于北票，下辖22路义勇军，每路人数不等，多者万余，少者一二千，共6万余人。
在此期间，黄即和东北民众救国会联合行动，以后郑桂林、赵大中、于百恩、耿继周、赵殿良各部在绥中、北镇、黑山、新民、沈阳沿北宁路左右各树一帜，纷纷抗敌，四处主动出击，使日本侵略军昼夜不安，终日疲于奔命。