孙中山在广州成立军政府、举起护法运动的大旗时，蒋介石正在上海过着颓后失意无所适从的生活。当他突然听说孙中山在广州就任海陆军大元帅，并在积极准备兴师北伐时，他的精神不由得为之一振。他有心奔赴广州去找孙中山，但转念一想，就这么两手空空地去见大元帅，未必能谋个什么好差事。那么拿什么来做晋见孙中山大元帅的见面礼呢？蒋介石苦思苦想，自家手上没有一兵一卒，也干不成什么惊天动地的大事，倒不如闭门造车，先给他来个“纸上谈兵”，且看孙中山有何反应。
1917年9月20日，蒋介石写了一份《对北军作战计划》，他认为：
“北方政府所辖之军队，约在三十万众，然实际上可为其动员者，即以冯、段二派势力合计，则其数亦不过六万。……我军乃在十师以上，其总员几倍于敌军各师之兵数，或者不足，虽折减至二成，则亦多于敌军三分之一也。至于实力之比较，惟战用器材不及敌军外，其余如给养力、人马之战斗力，不甚上下也。而敌军南来，其地势不宜，气候不惯，则南军较胜一筹也”。
鉴于这种分析，蒋介石又提出：
“吾军以长江沿岸为主作战地，先克武昌，次定南京，击破敌军长江一带之势力，再图直捣北京，以为作战方针”，并认为作战计划应分为二期：第一期“中央军由两粤进击长沙，肃清湖南全境，待左翼军解决四川、东下湖北时，与之合攻武昌。左翼军解决四川后，当派一支队扼守川北，牵制秦、晋之敌军，使第二期作战北伐时，即可道出秦、晋，与本军互相策应，而其主力乘势东下与中央军合攻武昌。右翼军与海军共同协作，合攻闽、浙，连下湘沪，待中央军与左翼军克复武昌，然后与之合师南京，肃清长江下游之敌军。海军与右翼军占领湘沪时，即以吴油为根据地，封锁长江门户，扫除长江下游之敌舰，声援上游陆军之作战，待各军会师南京时，与之合力攻城，同时搜捕长江舰队，使第二期作战时海上全权归于我有，不使其复为东北海岸之患也”。第二期“作战运动开始，乃在明年之三月间也。各军进发之道，以中央军由津浦路北进；左翼军由京汉路北进；右翼军由海道前进，在辽西登陆。三军分道并进，而左翼军之一支队则由川北而出晋、秦，以袭敌军之左，为本军之声援。各军会师燕京，为总攻击最后之准备也。”
1917年10月1日，蒋介石又写了一份《滇粤两军对于闽浙单独作战之计划》，认为：“我军主作战地，当定于东南沿海一带之地区，而于湘省暂取守势。先以海军为主力，向东海沿海一带之闽。浙两省，扫除北军之势力，击攘湘沪之敌军。以吴松为海军根据地，封锁长江之门户。东南之势力不难完全造成矣。若西南战局能有转机，则与之互相策应，出人于长江沿岸一带，肃清长江上下游之敌军，则第二期作战北伐之基本定矣。”
这两份计划书寄出后，蒋介石就在漫长而无聊的岁月中开始了苦苦的等待。这一时期，他像一只离了群的孤雁，寂寞访惶，无所适从也无所事事。有时同张静江、陈果夫等人在上海证券物品交易所当经纪人，做点儿证券投机买卖，有时回溪口家乡闲住些日子。蒋介石这一年已是年过“而立”，长子经国、次子纬国均已出世，老家还有他的发妻毛氏和母亲王氏。所以，虽然自陈其美死后，蒋介石的意志有些消沉，整日无所事事。但他毕竟已为人夫人父，还要烙尽人子之责，便经常抽时间回到奉化省视老母，看看孩子。
这样苦等了几个月，直到1918年3月，才接到孙中山从广州拍来的电报，命他启程赴粤。在蒋介石的政治生涯中，这是革命领袖孙中山第一次正式起用他。孙中山在阅读了蒋介石先后奉上的两份军事计划书之后，对蒋在计划书中暴露出来的军事才能深表嘉许。军政府成立之后，孙中山身边缺少忠于他的军事人才，而蒋介石毕竟是较早加入同盟会的革命党，又是在日本军校专门学过军事的。所以，孙中山决定召蒋介石到广州，在自己身边协助军事方面的工作。
1918年3月5日，蒋介石来到了广州，孙中山立即委派他赶到汕头，担任援闽粤军总司令部的作战科主任（授上校军衔）。
蒋介石近两年的时间没做什么事，现在忽然成了孙中山大元帅麾下的“上将军”，心绪顿然开朗。实际上，孙中山1917年8月当选陆海军大元帅。11月 1日就已正式任命蒋介石为大元帅府参军，并没有忘了这位陈其美的义弟。只不过蒋介石一直看不上“参军”这种可有可无、有虚名无实权的职位，没有及时到任罢了。这次的“作战科主任”算是“实授”之职，所以蒋介石欣然领命。到任之后，他踌躇满志，几天内就向孙中山呈上了一份《今后南北两军行动之判断》。不久，蒋介石随援闽粤军行动，参与了大埔攻防战的指挥。这一仗，粤军获胜，蒋介石在部队中也立住了脚，博得了陈炯明的信任。当年9月，蒋介石被提拔为粤军第二支队司令官（相当于团的建制）。
由“参往军务”作战科主任而升为统领上千人马的军事主官，这种变化对蒋介石来说是至关重要的。但是，也就在这个时期，蒋介石已明显察觉了粤军内部的派系之争竟是十分严重。他以一个外省人的身份而统率粤军的一个支队，已经觉得困难；又夹在陈炯明、邓控和许崇智这三大派系之间，更感到左右为难，进退失据。而且，当时孙中山也因陆荣廷等人的排挤而被迫辞职，蒋介石愈发觉得前途渺茫，在粤军中很难再有什么作为，于是，他于1919年6月离开了粤军，跑到厦门的鼓浪屿闲居起来。后又于7月12日正式辞去了粤军第二支队司令官的职务，并且明确表示：“我入幕系为服从中山先生而来，并非为帮陈炯明而来。”
辞职之前，蒋介石并未向孙中山报告。但辞职后，他立即离开了鼓浪屿，于1919年10月3日赶到上海，面见孙中山，详细陈述了自己辞去职务的理由，进而表示要到欧美去留学。
孙中山被陆荣廷的“七总裁制”排挤，被迫辞去在广州军政府中的职务之后，即转赴上海致力于中国国民党的改组工作。当此多事之秋，孙中山身边正需要一大批忠于革命又忠实于他本人的得力干部。因此，他当即表示不同意蒋介石长期离开中国，而是希望蒋介石留下来，帮助他工作。
蒋介石赴欧美留学三年的计划实际上只是虚晃一枪，是用来试探孙中山对自己的“重视程度”的，以他当时所处的环境而论，他是不可能远涉重洋一去三年不回头的。因为蒋母当时已是疾病缠身，次子纬国又才只有3岁，认了姚恰诚为母，在奉化城内居住。国事的牵连当时还轮不到蒋介石的头上，但家事的纷扰却是蒋介石想摆脱都摆脱不开的。何况他本来就十分眷恋家乡，挂念母亲的身体，又哪里肯抛妻别子，置年老体衰的慈母于不顾，一个人跑到欧美去“留学三年”呢？所以，孙中山一表示挽留，蒋介石立即“就坡下驴”，表示放弃赴欧美留学的打算，就此留居上海，读书自进，时刻准备为革命领袖孙中山效力。
蒋介石的这种小手腕要起来十分得心应手，他正是凭藉了这种政治手腕一步步取得了孙中山的信任，一步步爬上了权力的顶峰的。孙中山素有君子之风，大度能容，根本不可能对蒋介石的这种小伎俩有所觉察。所谓“君子可欺以方”，是之谓也。
接受了孙中山的挽留，蒋介石便在上海住了下来，一面读书，一面参与股市经营。
蒋介石的一生当中，始终对清代湘军首领曾国藩怀有深深的敬意。自从在宁波箭金学堂师从顾清廉学习《曾文正公集》之后，这部文集就从未离开过蒋介石的案头。此外，对明朝理学大家王阳明所著《王文成公全集》，蒋介石也同样推崇备至、尊为座右。在上海赋闲“韬光养晦”的日子里，蒋介石每天细读精研的就是这两部书。此外，这一段时间内，蒋介石还广泛涉猎了其它书籍，举凡中外军事典籍、政治、经济著作以及中国传统的“资治”之类的古籍等均在其列。说蒋介石是个职业军人，这在当时恐怕没有人提出异议；但若说蒋介石是个读书人，则于历史不符。无论从哪个角度来衡量，蒋介石都不能算是读书人，充其量也只能说他是个读过一些书的军人。这也正是蒋介石日后成为“政治家”而不单单是一介武夫的重要原因和显著标志。正因为是军人而且又读过一些书，所以在当时的孙中山左右，蒋介石是最喜欢以书面形式向孙中山提出军事方面的建议的人，这也是蒋介石之所以在很短的时间内就成为孙中山的股脑之臣的原因之一。虽然是纸上谈兵，毕竟比不谈的人好，也比不会“纸上谈兵”的人更容易受到重视与重用。蒋介石悟出了这个道理，所以愈发专心地读起书来。
读书之余。蒋介石也不忘发财。他在交易所与人合伙经营股票，手风颇顺，几个月的时间居然净赚了数十万元，“俨然富商矣”。
转过年来，陈炯明制下的粤军扩编为两个军，兵员达到两万余人。因为扩编，孙中山手下的军事干部就派上了用场，许崇智被任命为粤军第二军军长，蒋介石被任为参谋长。
1920年9月21日，曾任广州大元帅府军事联络官并掌管机要文书的朱执信在策动桂系虎门炮台守军反正时不幸遇难。朱执信曾帮助孙中山撰写《建国方略》，是孙中山的主要助手。他的死亡，顿时使孙中山“如失左右手”，是继失去陈其美之后的又一重大损失。
朱执信一死，蒋介石在孙中山的心目中就更显得重要了。孙中山在给蒋介石的信中曾夸奖他：“计吾党中知兵事而且能肝胆照人者，今已不可多得。唯兄之勇敢诚笃，与执信比，而知兵则又过之”。
可惜，尽管孙中山从此对蒋介石倚如股肱，但蒋介石在粤军及陈炯明心目中的地位却不容乐观。陈炯明在辛亥革命时曾发动惠州起义，任过广东都督和广东省长，称得上是“广东王”。他经营的粤军一向被他自视为“亲军”，蒋介石以一个外省籍人士的身份担任第二军的参谋长，受到打击排挤是情理中事。此外，陈炯明拥兵自重，虽然也加入了国民党，却并不是孙中山的信徒。对于孙中山的一些革命行动和方针大计，陈炯明一直是表面上尊从，暗中却处处掣肘，制造障碍。
应当说蒋介石对陈炯明的居心叵测是早有警觉的。当然，这并不是说他比孙中山先生英明。从当时的实际环境来看，孙中山处于革命领袖的地位，以陈炯明那样的身份，他不可能在孙中山面前过早暴露自己的狼子野心；而蒋介石是陈炯明的部下，身处粤军将领之中，陈炯明对他的压制、粤军部将们对他的排挤，他是身受心知体会颇深的。蒋介石毕竟同陈炯明共事多年，陈炯明的性格、思想，在孙中山面前可以伪装，在一个普通的下级将领面前却无须装假。所以蒋介石对陈炯明的警觉其来有渐，而且多是“感觉”而非理性思考的结果。从这种“感觉”出发，蒋介石认为陈炯明“外宽内忌、难以共事”。1921年3月5日，蒋介石在写给孙中山的一封信中曾尖锐地指出：“若望其（指陈炯明）见危受命，尊党攘敌，则非其人”。并据此建议：“请先生善诱之而已”。
蒋介石的话没有说错，但他没料到的是，陈炯明居然这么快就对革命党和革命的事业下了黑手。1922年3月21日，时任粤军参谋长的邓铿被陈炯明主使刺客暗杀。蒋介石到这时才真正警觉起来，他在孙中山为商议北伐而召开的桂林军事会议上，坚决主张先出兵讨伐陈炯明，然后再兴师北伐。可惜孙中山仍对陈炯明心存幻想，没有采纳蒋介石的建议。
蒋介石见自己的意见被否决，大感失望。他一怒之下，于4月下旬辞去第二军参谋长的职务。并且不顾孙中山的极力挽留，于辞职当晚便打点行装，登上了广州开往上海的轮船。
蒋介石不乐地返回溪口家乡，却仍然惦记着广州的危局，他曾给粤军第二军军长许崇智写了一封信，反复强调必须“先代陈炯明，再议北伐”，否则犹豫不决，迁延隐忍，必致有束手无策，噬脐莫及，不可挽救一日。惟愿吾言之不中耳。”
该着蒋介石露一回脸。陈炯明必叛的预言，不但被蒋介石“不幸而言中”，而且“言”得非常及时。他的信是6月1日写给许崇智的，第二天，也即1922年6月2日，孙中山从北伐前线韶关返回广州，立即就发现陈炯明的部队有“异动”迹象。
这一回，孙中山终于警觉起来，他当天便给蒋介石发去电报：
“粤局危急，军事无人负责，无论如何，请兄即速助我，千钧一发，有船即来，至盼。”
孙中山醒悟得太迟了。
早在西征时，陈炯明在击溃桂系军队的战斗中不失时机地扩充自己的部队，并且对孙中山继续西征桂系的命令故意拖延不理。当时，蒋介石就提醒过孙中山，孙中山未予理会。时隔一年，邓铿被害，蒋介石力主东征讨伐陈炯明，孙中山仍未采纳他的意见。直到6月16日，风云突变。陈炯明悍然炮击总统府，撕下伪装，公开叛变了。
国民党前新闻局局长董显光在其所著的《蒋总统传》中曾对这次叛乱事件作如下描述：
六月十六日，他（指陈炯明）下令驻扎于广州近郊之白云、观音两山的军队，向总统府进攻。他认为国父定然在出其不意的袭击中丧失生命；但或者是由于天意，国父的几位忠实信徒竟把他救出了乱军的包围线，而安全到达于停泊黄埔附近的永丰炮舰，该炮舰乃效忠于国父者。
蒋总统获悉其领袖所遭遇的危险，立即由上海启行，个人冒了很大的险，卒到达黄埔，追随国父于永丰舰上。国父和他的亲信随从者在该炮舰上忍受了五十六日等于禁闭的痛苦，而期待外来的援助。当时的希望集中于驻在广西的远征军队，认为他们将会回师广州，驱逐陈炯明，而解救孙总统。但这微薄的希望卒子八月六日粉碎了，因为那时候避居永丰舰上各人才知道这一支军队的回师，也遭到陈炯明所部击溃。至此，他们认为除逃之外别无他途。
国父与其同志们在这五十六日中所受的苦是极端痛楚的。粮食很缺少；水的供给也不可靠。他们的处境有如牢狱的幽禁。气候极度炎热。在这些时日中，蒋总统无时不追随国父左右，随时尽力协助与安慰。蒋总统有时像一个普通船员，亲自洗扫甲板；而且常常借黑夜的掩护，冒万险登岸，为国父购取日用必需品。
最后，一艘英国战舰把国父和他的同志接载到香港，他们在香港小住后，即于八月十四日抵达上海。
在这炮舰上和国父相处的时日，划成蒋总统生涯的转折点。在过去十年间，他曾为革命作重要的、却不很显著的表演。国父在许久以前已重视这位青年属员的才干；但惟有在 患难相处的时日中，更使国父自觉前此还未能充分认识这位矢忠而富有训练的军人所具的才能，与其所作实际的判断。
在这革命的危急关头，蒋介石却正在溪口老家优哉游哉地闲居漫游呢。当然，远在奉化溪口的蒋介石也不可能当天就知道广州发生的事。6月14日是蒋母王氏逝世一周年的祭日，蒋介石为此搞了一个颇为隆重的纪念典礼。他也算是地方名人了。母亲的周年祭日一定要纪念，他是个孝子嘛！
孙中山在陈炯明炮击中安然逸出总统府，在众卫兵的护持下，大模大样地混出了陈炯明叛乱部队的包围圈，转移到海军永丰舰上。
6月18日，孙中山再次给蒋介石拍发了密电：
“事紧急盼速来！”
蒋介石接到电报后，立即启程，于29日抵达粤海，乘快艇登上了永丰舰。孙中山对蒋介石这种“间关赴难”的勇气和忠诚给予了高度评价，曾对外国记者说：“蒋君一人来此，不啻增加二万援军！”
蒋介石登上永丰舰后，孙中山当即授以海上指挥的全权。在其后42个日日夜夜里，蒋介石的表现异常积极，他既要随时指挥作战，又能时常深人到士兵们当中鼓舞士气。舰上食品短缺时，蒋介石还自告奋勇亲自上岸采购所需食品。对此，孙中山曾非常担心地予以劝止：“我很感激你对我这样作，但是今后我不许你再去冒险采购食物；你是最重要的干部，万一我遭不幸，今后革命大业要你担当的，你的责任太大了。”
由于北伐军已于5月6日誓师出发，孙中山蒙难后，北伐军回师靖难受阻，再坚持下去已经没有意义。于是，孙中山遂于8月9日与蒋介石等人一起登上英国“摩轩号”炮舰，直驶香港，隔一日，再转乘“俄罗斯皇后号”邮船赴上海。
蒋介石在孙中山蒙难后能及时赶到孙中山的身边，陪伴他度过这一难关，着实令孙中山感动了好一阵子。事后，孙中山曾为蒋介石所著《孙大总统广州蒙难记》一书作序，说：“陈逆之变，介石赴难来粤，人舰日侍予侧；而筹策多中，乐与予及海军将士共死生。”
10月18日，孙中山正式任命蒋介石为东路讨贼军总司令部参谋长，并在此后给蒋的亲笔信中再一次强调蒋在自己心目中的地位：“兄能代我在军中多持一日，则我之信用可加多一日。”
蒋介石取信于孙中山，当然不是因为“间关赴难”这一件事。但是，至少是通过这件事，使孙中山更加信任并且倚重蒋介石了。