1924年1月国民党第一次全国代表大会决定建立陆军军官学校,训练革命军队,孙中山任命蒋介石为军校校长兼粤军总司令部参谋长。
他组织和领导黄埔军校师生参加1924年10月镇压广州商团叛乱、1925年2月东征讨伐陈炯明、6月平定杨希闵、刘震寰叛乱等战役,战果卓著,因此获得声誉,先任潮汕善后督办,继兼广州卫戍司令。
1925年8月黄埔军校两个教导团编为国民革命军第一军,蒋任军长。廖仲恺被害后,他支持汪精卫驱逐胡汉民出国,不久又将粤军总司令许崇智驱离广州,收编粤军部分师旅,一跃而成为国民党内握有军事实力的首要人物。10月率师第二次东征,全歼陈炯明叛军。
在1926年1月国民党第二届全国代表大会上,当选为中央执行委员、中央常务委员;2月兼任国民革命军总司令。
这个时候的蒋介石可以说已经成为国民党内部的实权派人物,他的个人志向,个人抱负都得到了伸展,可以说一时风头无限。而在这个国共合作,联合北伐的关键时刻,这位总司令他却将目光投向了另一个方向。