1903年1月1日（農曆1902年臘月初三）出生在貧苦農民家庭。幼年讀過私塾，後流落東北，參加了東北軍。1932年，因不滿舊軍隊，毅然返回故鄉，尋求救國救民的新路。1937年，抗日戰爭爆發後，在母親教育下，組織了國民抗日義勇隊，任隊長，積極領導鄉民開展抗日鬥爭。

　　1938年4月，參加八路軍。歷任回民教導隊隊長。7月，任回民幹部教導總隊總隊長。10月，加入中國共産黨。率部轉戰河間、獻縣、青縣、滄州一帶，先後作戰30余次，打死打傷日偽軍500多人；破壞鐵路70余次，覆車20余次。1939年7月，奉命開赴無極、藁城、新東一帶，開闢新的抗日根據地。後任八路軍第三縱隊國民支隊司令員兼冀魯豫軍區第三軍分區司令員。1940年8月，率部參加了百團大戰。10月，所部榮獲冀中軍區授予的“打不爛，拖不垮，攻無不克的鐵軍”錦旗一面。

　　1941年1月，奉命率部北上，挺進大清河北，粉碎了敵人對冀中抗日根據地的分割、蠶食政策。同年夏，率部轉戰子牙河畔，先後作戰27次，殲敵500多人，有力地配合了八路軍的正面作戰。因此，引起敵人極大仇視。日敵山本隊長寫信威脅：“有你馬本齋就沒有我山本，有我山本就沒有你馬本齋…”。他針鋒相對地回敬道：“有你山本就沒有我馬本齋，有我馬本齋就沒有你山本……”。後其家房屋被燒，母親被捕。但他仍堅定抗日決心，毫不動搖。母親犧性後，他奮筆疾書：“偉大母親，雖死猶生，兒承母志，繼續鬥爭！”

　　1942年4月，率部參加了陳莊殲滅戰。後奉命率部轉戰魯西北抗日根據地。1943年秋，又奉命調到范縣、觀城一帶，組織了新的第三分區粉碎了敵人的秋季掃蕩。同年11月，率部參加了八公橋戰鬥，被冀魯豫區黨委書記黃敬盛讚“後起的天下軍事家”。1944年2月7日，身患重病。彌留之際，仍不忘抗日。叮囑身邊同志：“讓部隊等著我！我不行了，把我的家屬送到延安去，告訴三弟抗戰到底！”後病逝于山東省莘縣張魯鎮。

　　同年3月17日，中共中央在延安為他舉行了隆重的追悼大會。毛澤東、周恩來、朱德為他贈送了輓聯。吳玉章在悼詞中稱讚他是優秀的共産黨員、模範軍人和民族英雄。後張魯鎮人民獻出10畝土地為他修建了祠堂。1956年，他的家鄉東辛莊被命名為“本齋回族自治鄉”。