革命党人在海外活动的情况有了初步的了解。顾清廉以日本明治维新后由弱变强的历史为据，向学生灌输强兵是富国之本的思想。他说：“青年欲大成求新，当出洋留学异邦”。蒋介石由此决定东渡赴日，学习军事。
1906年，蒋介石第一次东渡日本，拟进入日本陆军军官学校学习陆军。但当时清政府与日本方面有约定：凡中国学生要进入日本军校受训，必有清廷陆军部保荐方可。蒋介石首次赴日本未能如愿以偿，冬季返国。
蒋介石回国后不久，正赶上1907年夏季清政府陆军部属下的“通国陆军速成学堂’（保定军官学校的前身）在全国各省招考，蒋介石在千名考生中脱颖而出一举高中，并于翌年被军校保送去日本留学。
蒋介石到达日本以后，很快便进入振武学校学习，并于1910年毕业。离开振武以后，蒋介石被分配在日本驻新渴县高田市（现上越市）野炮兵第十三师团第十九联队充当二等兵，以后上升为上等兵，称士官候补生。
蒋介石在日本3年的留学生涯，对其今后一生的影响极大，成为他日后教育部下的资本，也是他蒙受孙中山器重的先决条件。
蒋介石在日本3年的留学生生涯，除了军事方面取得了一定的收获以外，还认识了陈其美。通过陈其美他还加入了同盟会，并结识了孙中山。所有这一切，都为他今后的仕途发展提供了条件。
蒋介石最初认识陈其美是在1906年他第一次去日本时。陈其美学英士，浙江吴兴（今湖州市）人，生于1878年。其家境贫寒，曾在上海同康泰丝绸栈当助理会计。1906年受蔡元培反清革命演说的鼓动，决计出洋留学并于同年东渡日本，先进入警监学校学习，后转人东斌学校学习军事。在日本期间，陈其美结识了孙中山并深受其影响，其后亦加入了中国同盟会。
蒋、陈二人由于志趣相投又是同省乡亲，所以关系非常密切。蒋介石同陈其美一起参加反清革命活动，并成为陈的得力助手，后经陈其美的着力推荐而受到孙中山的重视。为此蒋介石一生视陈其美为恩人及良师益友。1908年蒋介石再次赴日，由陈其美介绍加入了中国同盟会。
1911年10月10日，武昌起义成功，湖南、江西、陕西、山西及云南等省随之也相继宣布独立。为配合武昌，当时担任中部同盟会庶务部长的陈其美一面在上海积极筹划武装起义，一面电召蒋介石等同盟会员回国参战。
这一年夏天，蒋介石由日本高田野炮兵第十三师团第十九联队“托故假归”，在上海参与陈其美密商起义计划，营救被关在牢狱里的同志张恭，计划暗杀出卖了张恭的刘光权、何震夫妇。假期结束蒋介石返回日本。
辛亥革命爆发以后，陈其美再次致电蒋介石等，催其火速回国。蒋介石当即向师团长长冈外史请假回国，长阿外史以“因受陆军省委托管理，不能许可擅自回国”为由加以拒绝。蒋介石转而与联队长飞松宽吾请假，飞松宽吾在他的职权范围内准了蒋48个小时的短假，同时获准的还有同盟会员张群等人，飞松宽吾同时告诫蒋介石等：“如果你在48小时内不回队，就作为逃兵处置，由宪兵查缉。”
蒋介石、张群等人由高日乘火车赶到东京，向同盟会的东京支部领取了回国的路费，然后乔装改扮，与另外23名留学生一起乘船回国。阴历九月九日蒋介石抵达上海。
蒋介石抵沪后，陈其美派他率领100名“先锋敢死队”队员，迅速奔赴杭州参加起义。
9月中旬两湖起义成功，王金发、蒋介石、王文清、张伯歧、董梦蛟、孙贯生、蒋著卿等人携带印信、旗帜、手枪、炸弹等到达杭州。蒋介石承担了攻打浙江巡抚衙门的核心战斗并担任炸弹队临时指挥官。战斗进行到15日夜晚，杭州全城被起义军占领，浙江巡抚曾温被活捉。起义军建立了浙江军政府，由汤寿潜为都督。就此，浙江的辛亥革命宣告成功。
杭州光复以后，蒋介石回到上海，继续追随陈其美从事反清革命活动。沪军都督府成立后陈其美任都督，命蒋介石协助整编革命军潍持上海治安。不久滁其美组建沪军第五团，任命蒋介石为第五团团长，隶属于黄郭的第二师。经过数年的接触，此时陈其美、黄郭、蒋介石三人之间的关系已非同寻常，他们在战斗中结下生死至交。于是也就此时，三人互换兰谱，结为盟兄。这对蒋介石今后的发展，提供了极为有利的条件。同时蒋介石日益受到陈其美的着力培植，开始独挡一面。
1912年1月1日，南京临时政府成立，孙中山就任临时大总统，并宣告中华民国建立。浙江都督汤寿潜调任临时政府交通总长，浙江都督一职出现空缺，许多人诸如上海都督陈其美、苏州都督程德全、镇江都督林述庆、吴淞都督李珳和等，都虎视眈眈窥视着这个位置。恰恰在这个时候，光复会的革命党人和浙江多数革命党人极力推举陶成章继任，尤其是章太炎首先通电推荐。陶成章也因在光复会与同盟会之间的关系上，极力主张“以浙江光复（会）代之为革命正统”的思想，所有这一切在革命党人内部引起了激烈的派系之争。在这种情况下，陈其美一方面为达到个人目的，一方面为抚平派系之争，指使蒋介石刺杀陶成章。蒋介石买通了光复会会员王竹卿，乘陶成章住进上海广慈医院休养之机，将陶枪杀。
陶成章案发后第二天，孙中山从南京致电陈其美，令其“严速究缉，务令凶犯就获，明正其罪，以慰陶君之灵，泄灵下之愤。”陈其美则悄悄打发蒋介石离开上海，远避日本。
蒋介石此次去日本呆了整整一年的时间。在日期间，蒋介石筹办《军声》杂志。他指出办此杂志的目的是为了“将欲揭破各国之阴谋，而晓音暗，警告国人以未雨绸缎之计者”。同时发表了《蒙藏问题之根本解决》、《战后军政之经营》、《巴尔干战局影响中国与列国之外交》、《军政统一问题》等一系列涉及时政的文章。这份杂志只出了4期就因故停办了，蒋介石也由日本返回中国，在老家溪口镇闲居。
1913年3月来教仁被刺，孙中山发动“二次革命”。6月蒋介石来到上海，找到陈其美要求启程赴德国学习军事。当时陈其美正在上海组织举兵准备征讨袁世凯，正需要人帮助，便劝说蒋介石留下来帮他组织武装讨伐袁世凯，孙中山也同意陈其美的主张。蒋介石便留在上海，到袁军第93团去做发动工作，并追随陈其美“躬赴火线，往来指挥”。但是不到一个月，“二次革命”就失败了。
“二次革命”失败以后，陈其美跟随孙中山赴日，出国以前他将上海方面的工作交给蒋介石负责。9月1日蒋介石也乘船到达日本的长崎，进入由黄兴开办的设在东京的军事教育机关“浩然庐”学习，此期间他又接受陈其美的指派赴东北活动。
与此同时，远在日本的孙中山为了重整旗鼓，于1914年7月8日在东京重新组建了中华革命党。孙中山为总理。陈其美为总务部长、张静江为财政部长、居正为党务部长、胡汉民为政治部长，历时逾年的改组工作终于以中华革命党的正式成立而宣告结束。而蒋介石本人则早在1913年10月29日在上海由陈其美的盟兄张静江作盟誓人，加入了当时尚在改组中的中华革命党，成为在国内最早加入中华革命党的几个人之一。同时给孙中山呈上《上总理陈述欧战趋势并倒袁计划书》，指出“此次欧战时期延长一日，即袁贼之外交势力薄弱一日，范围扩大一步，即吾党之外交关系胜利一步。若吾党不于此袁贼亲西排东之外交失败期间，乘势急进，则时不再来，后悔莫及矣。”此期间，蒋介石在国内与日本之间往返频繁，继续从事反对袁世凯的活动。
中华革命党成立以后．孙中山仍以反袁革命相号召，任命各省的中华革命军司令，派干部深入各省。1915年2月，陈其美由日本返回上海进行反袁活动，蒋介石留在东京处理善后。临别时蒋介石对陈其美表示：“此去万一不幸，而为袁氏所害，余当为兄之第二化身，以成未竟之志！”这年10月，孙中山任命陈其美为淞沪司令长官。
陈其美走马上任后即致电蒋介石，催他火速返回。
蒋介石回到上海以后，在湘沪司令长官总机关工作，与陈其美策划上海起义，并亲自拟订了一个详细的“淞沪起义军事计划书”，且参加了运动肇和舰、袭取应瑞舰，攻夺陆地各官署的军事活动，屡次身陷险境而侥幸逃脱。
陈其美等人在上海的讨袁活动，引起了袁世凯及其爪牙的刻骨仇恨。1916年5月18日，袁世凯设下圈套，以70万重金悬遣刺客李海秋，在住沪日侨山田家中将陈其美暗杀。蒋介石闻噩耗后几不欲生。陈其美一死，蒋介石顿时失去了依靠，孙中山也失去了一个军事上的得力助手。于是，作为陈其美亲信的蒋介石，开始受到孙中山器重。蒋介石也设法全力投靠孙中山，以获取孙中山的信任。
前面我们讲到，早在1910年，蒋介石就在东京认识了孙中山。孙中山对蒋介石的最初印象颇好，认为他是一个难得的人才。而陈其美在以后的日子里，时常在孙中山面前大加赞赏蒋介石，并将蒋介石作为军事人才推荐给孙中山。所以尽管蒋介石与孙中山的直接接触不多，但是由于他的聪明才智和勇敢顽强，到底引起了孙中山对他的重视。
辛亥革命失败以后，孙中山继续高扬民主革命的旗帜，主张武装斗争，但却找不到正确的道路。所以在以后的十多年的军事斗争中，孙中山采取了联合甲派军事力量打倒乙派军事力量的军事政策，结果到处碰壁。蒋介石正是在这个时候取得了孙中山的信任与提拔。
1917年7月1日张勋复辟。孙中山在上海通电全国，号召全体国民讨伐叛逆，轰轰烈烈的护法运动拉开了序幕。
7月17日，孙中山一行抵达广州，发表了护法演说。这时的孙中山，手中没有军队，只能依靠滇、桂军阀唐继尧、陆荣廷的力量，在广州建立起中华民国军政府大元帅府，并当选为中华民国海陆军大元帅。
当时，蒋介石正在上海，听到孙中山在广州就任大元帅，并积极准备北伐的消息，精神为之一振，于9月20和10月两次上书孙中山，提出《对北作战计划》和《滇粤两军对闽浙单独作战之计划》，他在上述两文中对当时的时局进行了精辟的分析，并对敌我力量的优劣势态进行了对比，指出了以长江沿岸作为主战地，先克武昌，稳定南京，然后直捣北京的作战方针。蒋介石的这两份作战计划得到了孙中山的重视和赞许。
1918年3月5日蒋介石应孙中山电召，由上海南下广州，参与孙中山的军事活动。先后在援闽粤军总司令部任作战科主任。第二支队司令，第二军前敌总指挥官等职，并拟有《今后南北两军行动之判断》、《粤军第二期作战计划》。他参与指挥的大埔攻防战，也取得了决定性的胜利，在部队中深得陈炯明的信任。同年9月18日，蒋介石被任命为粤军第二支队司令官，统领1000人马。这个任职意味着，蒋介石从此由“参佐军务”而开始独挡一面了。
就在这个时候，粤军中出现派系之争且愈演愈烈，形成了以陈炯明为首的惠州派、以邓铿为首的粤东派和以许崇智为首的福建派。三派之间相互倾轧句心斗角，军中一片混乱。蒋介石本人虽然不参加任何一派的争斗，但他和陈炯明之间渐生嫌隙，便于1919年9月正式辞去第二支队司令官一职。10月13日蒋介石赴上海拜见孙中山，提出去欧美留学的要求。当时孙中山正在进行中国国民党的改组工作，需要大批得力的干将，便极力挽留蒋介石，蒋答应留下住在上海，时刻准备听从孙中山的召唤。
在上海的这段时间里，蒋介石除了潜心读书外，开始涉足于上海的股票交易所并颇有所得。
转眼到了1920年，粤军有了很大的发展，由原来的8000人发展至20000多人，扩编成两个军。
但是由于粤军派系林立的痼疾未能从根本上解决，蒋介石到任后一直难以开展工作，于是再次请辞。据统计，从1918年蒋介石在援闽粤军中第一次辞职算起，到1924年4月他正式就任黄埔军校校长的6年间，他辞职复职、复而又辞的次数达十多次。
1920年9月ZI日，倍受孙中山器重的朱执信不幸遇难。孙中山写信给蒋介石，信中言说：“执信忽然夭折，使我如失左右手。计吾党中知兵事而且能肝胆照人者，今已不可多得。唯兄之勇敢诚笃，与执信比，而知兵则又过之。兄性刚而嫉借过甚，故常