1937年“七·七事变”，进一步激励他抗战斗志，遂于当年7月28日午夜，与第二总队队长张砚田、保安队教导总队队长沈维干率部起义，捣毁汉奸政府驻通机关，活捉汉奸政府主席殷汝耕，击毙日军驻通特务机关长细木繁，给日本帝国主义及其走狗以沉重打击。29日，其率部向北京宋哲元部队转移，不意遭受日军突然截击，部队化整为零赴保定。后经石家庄，南下开封。不久，他被蒋介石召赴南京，委以军政部开封第六补充训练处处长，后易任九十一军副军长、国民党军委会参议等职。因不满国民党内部派系倾轧，忿郁成疾，于1946年退役居于天津。1963年9月18日病逝，享年68岁。张庆余领导的通州起义，震动中国和世界，是日、伪军内部起来抗日，更加表明了中国人民的爱国主义精神。