还是在1913年夏，孙中山在南方发动讨袁的“二次革命”时，即曾写信给山西的孔祥熙，期盼他接信后即束装赴沪，以襄赞“二次革命”。孔祥熙当时接到信后，倒并没有踌躇，当即就把铭贤的校务交待一番，便匆忙上路了。从这一点来看，倒从另一个侧面证明当年的孔祥熙确是真心投身革命，为了革命不惜抛家舍业。毕竟，当时的孔氏家族已非其幼时那般潦倒那般不值珍惜了。
不料，“天有不测风云”。待孔祥熙行色匆匆赶到上海时，“二次革命”已告失败了，孙中山等革命党人亦已逃亡日本，一时无从与之联系。只两月之间，局势即发生如此逆转，孔祥熙不免目瞪口呆，不知所向。当时又正逢袁世凯政府白色恐怖最严重之际，反动势力在上海大肆搜捕革命志士。面孔祥熙自辛亥以后又一直是北中国地区最活跃的革命党人，如在沪滞留下去，恐怕要难逃罗网。万般无奈之下，他也便只好横下决心：三十六计走为上策。孔祥熙决定东渡扶桑追随孙中山去了。
一艘远洋客轮在波涛汹涌的太平洋上颠簸前行，悬在半空中的太阳惨白惨白地将光芒洒落在已经发暗的海面上，仿佛在预示着一场暴风雨的来临。船尾的海鸥惶恐地尖叫着，上下翻窜，一时找不到自己赖以安身立命的归宿似的。天与地间所有所有的一切，都显着那般的无精打采，那般的惶惶不可终日。仿佛，所有这一切都衬托着站在船舷旁那位中年男子的黯淡心态。
这位男子便是正处天涯亡命之中的孔祥熙。
曾几何时，也是这天也是这海，同样也是这位孔祥熙，怀抱一腔科学救国的热情，不远万里飘零海外，赴美国求取救国的知识和本领。当时，他也是倚在这船舷旁极目远眺，心情是那样的兴奋，澎湃如眼前那汹涌的万顷碧波一样。然而时隔仅为数载，命运竟如此严酷地降临在孔祥熙头上，以至他有家不能回有国不能奔，只好这般子然一身孤零零地漂泊再漂泊，不知漂泊到什么时候，才能重返那熟悉可爱的故乡？
不知因为什么，此次出洋孔祥熙心情异常的沮丧，也异常地思念故乡。
当时导致孔祥熙情绪低落的原因，并不只是表面上革命的久未成功屡战屡败，这只能是其中一个比较重要的因素。但更重要的且为一般局外人所不知的，却是孔祥熙内心中正忍受着刚刚丧偶的痛苦煎熬，所谓孔祥熙当年丧魂失魄的苦恼，相当大一部分即源于此。
如今一般世人都知道孔祥熙的夫人是宋蔼龄，却不知宋蔼龄并非孔的结发妻子。孔祥熙当年的结发妻子叫做韩玉梅。1908年孔祥熙留美返乡并创办了太谷铭贤学校之后，已过而立之年了。事业有成，当然就该到了成家的时候。经媒人介绍并且在老父亲的积极张罗下，当年秋天孔祥熙在家乡太谷与韩玉梅女士拜了天地。
那韩玉梅原本是个孤儿，是由太原的一所教会学校将她抚养成人的。姑娘生得端庄清秀，娇小纤弱且又性情温婉，知书达礼。由于同是受的教会学校的熏陶，夫妻二人倒是有着相同的志趣和共同的语言。结婚以后两人你敬我爱，夫唱妇随，生活非常的幸福和谐，且又不失年轻人的浪漫色彩。然而好景不长，自幼失去父母呵护且又长期生活在宗教礼仪压抑中的韩玉梅，长期以来身体瘦弱并患有肺病。在今天，肺病已经不是什么绝症，只要及时医治便能很快康复，但在当时我国对肺病尚无根治的药品，一旦染上便成不治之症。韩玉梅没等为孔家留下一儿半女，便于1912年撒手西归。
虽然仅仅作了3年多的夫妻，但是孔祥熙对韩玉梅却情深似海，他把爱妻安葬在先父孔繁慈墓的右侧。
韩玉梅的病故，对孔祥熙来说是个沉重的精神打击，使他一度陷于悲痛之中，情绪异常低沉。一时间爱妻的影子时常在眼前浮现，晃来晃去搅得他心神不定。但远大的救国理想和手头忙碌的工作又不容孔祥熙一味地沉浸于心中的悲伤。当时的两全之策，只有找机会换换环境，以冲淡心中那难以磨灭的记忆。
“呜”地一声汽笛长呜，将沉浸在回忆与思念中的孔祥熙唤回，举头前望，日本列岛已在眼前了。一想到马上就可以和自己敬重的孙中山先生以及其他革命党同志见面，孔祥熙一路阴郁的心清不禁好了许多。“二次革命”失败后，为避袁世凯政府的疯狂镇压，当时一大批国民党人如孙中山、黄兴、李烈钧。胡汉民以及宋耀如一家均逃往日本避难。也就是在这样的大背景下，孔祥熙追求孙中山先生也来到了日本。
孔祥熙此次来日本，除政治上暂避锋芒之外，还有一个可说冠冕堂皇的理由就是，当时有人推荐他来出任中华留日基督教青年会（简称基督教青年会）的总干事。
在孔祥熙的一生中，他曾几次经历这种遇难呈祥、因祸得福的事情。比如童年时他因生那场大病而得以接触洋人并进教会学校；比如后来抗战胜利前夕，他在蒋介石那里过早失宠以至一气之下去了美国，才避免了后来国民党政权大陆崩坍之际随老蒋主子一块死一块埋了。这一次同样，假如不是因为“二次革命”过早失败以至他也仓惶之中亡命日本，恐怕基督教青年会这份美差也未必会轮到他的头上。
当时所谓的基督教青年会，简称青年会，是一个宗教性团体组织。它最初由英国青年商人乔治·威廉斯于1844年在伦敦创设。1876年传入中国，在上海成立了第一个青年会。其后在沿海和内地一些城市也陆续有了青年会组织。1910年各地青年会在上海举行全国会议，确立上海为所属会的中心并设立了总部。总部名称为中华基督教青年会全国协会，其组织分成“城市青年会”和“学校青年会”。它的宗旨是“发扬基督精神，团结青年同志，养成完美人格，建设完美社会”。为此该组织经常开展各种活动，并要求寓活动于德、智、体、群全面发展之中，对当时的青年人有很大的吸引力。这个组织还曾帮助中国吸食鸦片的人建立戒烟会，希望他们永远戒除吸烟的恶习。这些都对当时中国社会的改革，起过一定的积极作用。
当时正值二十世纪初，中国青年知识分子中出现了留学热，为了适应留学生越来越多的新形势，中华基督教青年会在日本东京设立了分会。国内动荡不安的政治局势和一片混乱的社会境况，同样在广大的中国留学生身上引起了反响，致使中华留日基督教青年会很不景气。当时担任总干事的王正廷恰好是孔祥熙留美时的同学，由于他在政治上的一些失误遭到了一些学生的围攻，最后只好被迫辞职。于是教会工作出现了更加混乱的状况，为此王正廷向中华基督教青年会会长约翰·罗·莫特推荐孔祥熙来继任并得到了批准。不想莫特的邀请真可谓是雪中送炭，正中孔祥熙的下怀。
孔祥熙出任中华留日基督教青年会总干事一职，当时并没有指望捞到什么好处，只求借一方宝地避避风雨，能干好就干好，干不好也是得过且过。同时也算解了老同学王正廷之围。在王正廷看来，孔祥熙算是对他有恩之人。事情就是这样，孔祥熙无意无奈中的投之以李，王正廷却有心报之以桃。从此王正廷极力提携孔祥熙这位耶鲁大学的校友兼“恩人”，为他脐身政坛步人官场架桥铺路。反过来孔祥熙也要报答王正廷的知遇之恩，曾一度忠心耿耿地一直追随王正廷左右，成为王正廷班子里的一员大将，活跃在政治舞台上。后来王正廷失势下台，孔祥熙便原封不动地接收了王的老班底，并把这些人安插到自己担任要职的机关里，这也算是继承了王正廷的衣钵。
在日本期间，孔祥熙一方面走马上任中华留日基督教青年会之职并管理该会会务，处理日常工作。更重要的是利用总干事的工作之便，广交留日革命党人，参加孙中山先生的革命活动。
孙中山先生当时的处境非常困难，住房只有十几米大，每月的生活费用主要靠朋友们的支援。孙中山在闭门思过的过程中，总结了“二次革命”失败的原因，指出“非袁氏兵力之强，实同党人心之涣散。”当时的国民党只求人数的发展不计素质的好坏，结果造成了党员虽众内部却意见分歧，以致号令不能统一。孙中山先生决心改造这个“一盘散沙”的党。1914年孙中山在日本召集一部分国民党员进行重新组建，当年7月8日在东京举行了中华革命党的成立大会。大会重举资产阶级民主革命的大旗，准备继续进行反对袁世凯的武装斗争。当时到会者有300余人，孔祥熙也参加了这次成立大会。他和与会人士一致表示：
“愿牺牲一己之生命、自由、权利，服从孙中山先生，再举革命，务达民权、民生两主义，并创造五权宪法，使政治修明，民生乐利，措国基于巩固，维世界之和平。”
当时孙中山规定：“凡人党各员，必自问甘愿服务文一人，毫不犹豫而后可。”并且还要求每位加入新党同志要捺印指模，以示真诚。当即，廖仲恺、陈其美、张静江和孔祥熙等人表示拥护，并相继在契约上端端正正地按了各自的手模。但黄兴等人对此却持异议，认为这是会党旧俗，有辱人格。当场孙中山先生断然拒绝了黄兴和汪精卫等人的不同意见。他决定不勉强黄兴等人参加，并劝黄兴休养两年以便反省自己。至此，尽管在革命目标上孙中山和黄兴两人并无分歧，但在具体的革命方式上两个人可以说是正式的分道扬镳了。不过，当日后黄兴高日旅美行前，设宴与孙中山叙别时，孙中山先生不免对黄兴的离去十分惋惜。当时中山先生即席赋联予黄兴：
“安危他日终须仗，苦苦来时要共尝。”
孙中山在日本流亡期间，孔祥熙作为一名革命新秀，赢得了中山先生的信赖和倚重。孔祥熙也竟日跟随左右，协助孙中山组建中华革命党的各项准备工作，同时还负责革命经费的劝募筹集等。也就是当此之际，孔祥熙偶然地结识了后来成为他妻子的宋蔼龄。