叶挺独立团在攻克武昌后，即扩编为第四军第二十四师，叶挺除担任师长外，还兼任了武汉卫戍司令。
虽然北伐还在继续进行，但武汉政府在内外反动势力的威胁下，已成动摇之势。党的“五大”期间，叶挺担负保卫大会安全的任务，尽职尽力，没出什么事。
“五大”过后不久，就遇上蒋介石策动第十四师师长夏斗寅联合地方军阀杨森叛变，乘革命军出师北伐，武汉空虚之际，于5月17日偷袭武汉。叛军打到了离武汉40里的纸行镇，企图一举掀翻武汉政府这只风雨飘摇的船。汉口卫戍司令李品仙束手无策，胆颤心惊，竟想在这危急关头烧毁武汉轮渡，弃城逃跑。
叶挺闻讯，震惊不已。他分析道：敌军士气低落，他们都是被抓来的农民，不会为军阀拼死卖命，因此虽然人众却不会有大的战斗力。而我军人数虽少，却有300多共产党人支持，且有百战经验，士气高涨。
对比之下，我军定能战胜叛军。于是，叶挺请缨，亲率大军讨伐。并传谕全线，如有临阵退缩者，执行枪毙，我全体官兵，誓为党牺牲。叶挺个头略高，不胖，但体格很好，总是衣冠严整，透出一种军人的肃穆。他同妻子和一个3岁的儿子住在武昌偏僻街道上的一个小房子里。有意思的是，当时共产党主张打倒封建礼教，解放妇女，所以党的队伍里男女相处已是平常事。叶挺对此也赞同，但是他对自己年轻貌美的妻子却防范极严，绝不轻易介绍给“同志”们一见，同事们都戏称其“金屋藏娇”。李宗仁曾不无担心地提醒张发奎：你们第四军里共产党最多，高级将领如叶挺等，都是著名的共产党，你如对他们不加约束，将来军队会不听你指挥的。
张说叶挺和他是广东北江的小同乡，从小便在一起，可以说是如兄如弟，以他和叶的私人关系，他认为叶挺决不会和他为难的。
李宗仁说：“共产党还谈什么私人关系，他们只知道第三国际的命令，你别做梦了。”
张说：“不会的，决不会的。”随即举了那个“金屋藏娇”的例子，以此说明叶挺的“念旧”（也正因为有这一层关系，在决定起义的初期，叶挺也曾希望能与张发奎合作打回广东，当这个假设无法实行的时候，叶挺毅然支持了起义）。
叶挺虽为师长，生活却十分简朴，竟至贫穷。他的另一特点是话极少，尤其是军事以外的话题。但政治上又很强，常常是一语中的。
比如中山舰事件时，叶挺说过一句：蒋介石是第二个陈炯明，不能等闲视之；“四一二”政变时又说过：大流血的日子可能就要到来了……这些预言都被一一证实。
再说夏斗寅一听说是叶挺的铁军来战，吓得腿都软了。但既已叛变，死活也要顶住。叶挺认为当务之急是同敌人抢时间，争阵地。当时，因部队分散在武汉各地担任警卫工作，不能同时开拔。叶挺便命令七十 二团火速挺进纸行镇。叛军闻讯集中兵力反扑，包围了纸行镇。因为众寡悬殊，七十二团处境十分困难。危急之时，叶挺率主力赶到，命令七十五团及中央独立师分头出击，又亲自到七十二团阵地，指挥部队在纸行镇正面阻击敌人。叶挺这种冒着敌人炮火、身先士卒的举动，大大激励了士兵，他们舍身奋战，连伤员也从担架上下来，冲上火线。将士用命，加之指挥得当，将敌人赶出了纸行镇，收复了汀泗桥、贺胜桥等地，武汉局势转危为安。夏斗寅叛军虽被击溃，但没有完全消灭。叶挺指挥部队继续追击，本想一鼓作气消灭叛军，可是未获汪精卫一伙允准。他们下令叶挺停止进攻，使夏斗寅的残部仍盘踞在鄂南。不久，湖南的许克祥又发动“马日事变”，捕杀大批共产党人和革命群众，尸积如山，血流成河，真是惨不忍睹。叶挺面对叛逆们的屠杀罪行，既愤慨，又忧虑，本来不多的话就更少了。他又说了一句：汪精卫就是第三个陈炯明。
又说中了。长沙“马日事变”，是豪绅地主阶级反动势力的开头，是中国革命由高潮走入低潮的转折点。宁汉对立的局势，蒋介石得到英、美、日、法帝国主义的支持，腰里有钱，手里有枪，财大气粗，对武汉政府进行封锁后，弄得人心惶惶。“马日事变”使得湖南、湖北、江西各省的新旧军阀与土豪劣绅联成一气，造成普遍的白色恐怖气氛，革命的工农组织，遭到严重的破坏。而武汉政府对“马日事变”低头，就等于投降了蒋介石，从此以后事实上就没有什么国民党左派，国共联合战线在“马日事变”以后就根本动摇了。
面对乌云压城的险恶形势，叶挺要求部队保持高度警惕，同时进一步加强军事政治训练，想办法充实部队的革命骨干力量。遵照周恩来的指示，叶挺积极收容接待外地因受反革命势力迫害而跑到武汉的革命分子，把他们安排到部队里当各级骨干。
例如，湖南常德的共产党员粟裕、腾久忠等人，遭反动分子搜捕，从湖南跑到了武昌。叶挺听说有人来，总是热情接待，并安排到自己统率的二十四师教导队。不到半个月，这个教导队就招来了1000多名学员，几乎是清一色的党团员。党组织对教导队极为重视，除了上政治课以外，还经常请负责同志如周恩来、恽代英、叶挺等人来作报告。
为了防止反动力量的袭击包围，6月间，叶挺率领二十四师移驻贺胜桥一带。他在抓紧部队军事训练的同时，还派出一些官兵到附近农村，向农民进行宣传和调查工作。附近农民知道这里驻着闻名遐迩的铁军，也时常跑到司令部驻地，向叶挺等反映情况，控诉 地主豪绅迫害农民的罪行，请求叶挺出兵保护和支持他们的斗争。湖南地区的一些农民也大老远地赶来，请求叶挺派兵。叶挺也很想带着队伍去打一下，并想出一些办法来保护农民利益，可是右倾的陈独秀总是压制。他曾和苏联军事顾问捷斯连科认真商量过，认为要击败许克祥叛军并不困难，“只要一 声令下，我叶挺随时可以完成此项任务。”捷斯连科亦曾就此致电苏联军事总顾问加伦将军，请示允许叶挺率师出兵，增援开赴长沙的农民队伍，但是始终没有接到出兵命令。
不久，叶挺带领部队移驻大冶。大冶位于黄石市西南，临近长江。司令部驻在大冶一间业已停业的日资钢铁厂。叶挺继续抓紧部队的军事训练，同时继续派出一部分官兵做群众工作，向群众宣传革命主张。部队随时准备响应党的召唤。
7月上旬，汪精卫集团命令张发奎率部“东征讨蒋”。一方面，他们可以借此转移视线，掩盖其加紧反共的叛变阴谋；另一方面，又可以乘此调离所辖叶挺等部的革命力量；同时也可以借此调用叶挺的力量，东下扩充自己的实力和地盘。这跟蒋介石当初北伐，命叶挺充当先锋的目的一样。所不同的是，共产党也正在酝酿一个大的谋划，这个谋划需要最大限度集合自己的力量；所以中共中央也同意让叶挺等部队参加“东征讨蒋”。
7月中旬，叶挺的第二十四师、第四军的第二十五师及贺龙的新编第二十军等部，奉命随二方面军“东征讨蒋”，开赴江西九江一带。