蒋介石和陈诚都是政治强人，难得的是，到台湾后二人的合作尚称愉快
蒋介石到台湾时台湾的局面，可以说都是陈诚打开的，陈诚对稳定台湾立下了汗马功劳。由于“国军”不稳，叛变严重，蒋介石刚入台湾时，他对陈诚也不怎么相信，有了1936年西安事变的经历，他怕陈诚若也像张学良那样，有“联共”之举，他不可能像1936年那样毫发无损。所以到台湾后，他没敢在台北登陆，在台中高雄转了二十几天，看陈诚还可靠，没有什么异图，才在台北安下了“总统府”。
蒋介石一到台北，陈诚就把掌握在自己手中的军政大权交给了蒋介石。由于陈的忠诚和能干，蒋介石对陈诚也更为信任和倚重。国民党改造，众元老纷纷落马，惟有陈诚硕果仅存。按改造的要求、大力提拔年轻有作为的干部，陈诚此时已有50多岁，已经属于不在此列的了。
蒋介石到台湾后，从1950年3月陈诚出任行政院长起，可以说是开创了台湾蒋陈政治的新时代。蒋陈政治，表面上看二人没有明确的分工，但实际上蒋为“总统”，是国民党“总裁”，军队和党务上的事是蒋介石说了算。可此时台湾的军队，陈诚系统的占一半左右，海军总司令桂永清也是陈夹袋中的人物，陈在国共金门炮战中，也还能对军事发生影响。党务方面，陈诚是国民党中央常委，排名最高，所以在军队、党务方面，似乎是蒋介石为主、陈诚为辅。陈诚主行政院，主管的主要是经济和民政。陈诚经营台湾的几年，在经济和民政上可以说比蒋介石在大陆上搞得好。陈诚的声誉，也是在台湾才声名鹊起。所以在台湾政治上，经济和民政，似乎是陈诚主得更多一些。蒋介石在台湾，也参加经济、民政方面的决策，但在陈诚在世时，陈诚的影响似乎更大。
在镇压台岛内部的叛乱分子和反攻大陆问题上，也是由陈诚主持。蒋介石到台湾后，性情变化得很大，不像过去那样，事事专权，事事要由自己决定。对于像陈诚这样的对自己比较忠诚的人，很信得过，不像过去那样处处干涉。蒋介石也不像过去那样固执己见，很多事情，都听得进不同意见。蒋介石也开始过问民间疾苦，1953年8月，蒋下手令“每星期全部军队，自大元帅以下，食蕃薯一餐，大元帅本人，食两餐”。很有一点吃苦在前的味道。蒋介石出巡，常常步行，常去访问乡村，询问百姓疾苦，有时还和普通百姓合影留念。他步行时，也不让侍卫人员影响其他行人。
大陆的惨痛失败，使蒋介石在台湾很有点“卧薪尝胆”的精神，蒋介石是1887年生人，去台湾时，60早过，但仍不辞辛苦，事必躬亲。所有军事演习他都亲自参加，陆军团长以上、海军大型舰长以上、空军大队长以上的干部，他都一一接见。由于失败的打击，蒋介石变得谦虚、平易近人，他的“总统府”客人络绎不绝。也不像一些电影中描述的那样，去见蒋的人战战兢兢。他对文职人员很尊重，入室让坐，出门礼送。下级讲话，也让其畅所欲言，有时来人讲得激动，疾言厉色，蒋也含笑对待。对党部和立监委员不合情理的话，蒋也不生气。蒋介石对于批评他的消息很重视，无论消息来自何方，他都要找来仔细阅读。
蒋介石的生活实际上很简朴，在大陆时，一些高级官员怕他请客，因为吃不好，量少，又吃不饱，还拘束。蒋穿衣服，喜欢穿细软的旧衣，一件衣服要穿好多年。他在重庆时穿的一件黑技氅，到台湾时仍在穿，一直未再制新的。他有军服三套，内衣和毛衣各两套。蒋介石在台北的“总统府”，用的是藤椅。蒋介石的座车，是1946年购置的，带到台湾去，一直用到1956年。1956年宋美龄从美国带口旧车一辆，才换下他的旧车。蒋在经济上公私分明，“总统府”的支出，从1958年到70年代他去世，未增加预算。
陈诚的简朴更为世人所知，他家一直不用佣人，全部家务，由夫人谭祥操持。
1954年是台湾的大选年。2月15日，国民党中央举行临时全体会议，推举蒋介石为国民党“总统”候选人。第二天，蒋介石以“总统”候选人的名义，提名陈诚为“副总统”候选人。他说：“副总统候选人的标准应有三个条件：第一要忠党爱国，第二要尽责尽职，第三要任劳任怨。根据此项标准，我认为副总统候选人选，以陈诚同志为最相宜。”3月份经国民大会选举，蒋介石当选总统，陈诚当选副总统。5月20日，陈诚正式宣誓就职。同一天，陈辞去行政院长职，行政院长由台湾省主席俞鸿钧继任。
1957年10月，国民党召开“第八次全国代表大会”。10月18日，蒋介石向大会提议：“中正提案本党应设副总裁一人，并在党章第五章中增设条文如下：‘本党设副总裁一人，辅助总裁处理党务，其人选由总裁提名经全国代表大会通过之。’”23日，蒋提名陈诚为“副总裁”，并获通过。从此，陈诚在党政方面均成为台湾的第二号人物。
陈诚和蒋介石合作愉快的根本原因，是陈忠于蒋，而蒋也完全信任陈。另外二人在职权上，事实上也有一种划分，即蒋主军、主党，陈主经济、主民政。陈诚在很多问题上和蒋都是有意见分歧的，如吴国桢案，台湾方面说吴套取巨额外汇，陈诚亲自出面说明吴没有套汇一事。而在以后俞鸿钧内阁下台，陈诚以“副总统”职务兼任行政院长，俞鸿钧内阁的教育部长是张其昀，张曾当蒋介石的秘书，蒋希望陈诚仍让张其昀留任教育部长，便亲自带着张其昀去拜访陈诚。但陈认为张不便留任教育部长，仍坚持曾任清华大学校长的梅贻琦为教育部长，对陈诚的任命，蒋介石也承认。
对于蒋介石所不喜欢的人，陈诚仍敢重用；另外，他还和胡适等知识界名人关系密切
从30年代起，陈诚就开始拉拢并重用一些反对过或正在反对蒋介石的人。这些人包括唐生智的大将刘兴、冯玉祥部大将孙连仲，原来在政治上支持汪精卫、反对蒋介石的张发奎，以及薛岳、吴奇伟等人。陈诚的用人原则是不论派系、不分籍贯，只要能打仗，有才能，都可任用。
对于陈诚重用反对过蒋介石的人，蒋不同意的很少。只是1936年陈诚保举张发奎去杭州，主持上海至杭州、宁波的国防工事建设，蒋怕张发奎拥兵造反，稍有迟疑。陈诚立即向蒋保证，如果怕张发奎将军队拉走，“就让他指挥我的十八军好了”。蒋于是同意，陈诚也就让罗卓英带十八军，驻防浙赣边界，归张发奎指挥。
张发奎、薛岳、吴奇伟这些人，由于过去的矛盾，和蒋介石总是有点合不来，但对陈诚却颇为恭顺，以致张发奎以后谈起陈诚来，总是多少带点感恩戴德的口吻，口口声声称“辞修将军”，而称蒋则直呼“蒋介石”。陈诚的用人原则是用人不疑，当然疑也就不用，使用张发奎、薛岳这些将领，就给他们全权。如第一次长沙战役，薛岳坚持守长沙，白崇禧、陈诚都主张不守。白、陈一夜之间打电话要薛岳撤退的命令达9次之多，由于薛岳担负实际指挥责任，坚持不撤，陈诚没有越俎代庖，也就认可。这和蒋介石的作风不同，若是蒋介石，早已越过薛岳，直接指挥薛手下的军队了。陈诚还把他们的意见直接反映给蒋介石，如浙赣战役薛岳指挥第九战区部队反攻南昌，蒋介石限期拿下，结果拿不下。薛岳就要陈诚向蒋代述继续进攻的困难，陈诚照办，蒋乃下令停止围攻。陈诚也是敢保护这些将领的权利的，武汉会战时张发奎指挥第九战区第二兵团在九江作战，第二兵团所辖欧震第四军是张发奎旧部，在作战中张命第四军撤退，结果蒋介石认为张有意保存第四军实力，未通知陈诚就直接免了张的职。陈闻讯，即跑到蒋介石处说张发奎撤下第四军是自己让撤的，与张发奎无关，要处分，就处分他。对此，张发奎非常感激。实际上，张命第四军撤退并未请示陈诚，更不是陈诚下的命令，只是按当时的战况，必须撤退，撤退是对的，所以陈诚就自己把责任揽过来了。张发奎到武汉，对自己不明不白被撤职非常气愤，就去找何应钦，要求对自己进行军法审判。为安抚气愤填膺的张发奎，蒋使命张去广州，接任何应钦的第四战区司令长官，此事才算不了了之。用人也疑、疑人也用是蒋介石的特色，他升张发奎的官、更加重用张发奎，并不表示他相信张发奎了。事实上，处在蒋介石的地位和当时的环境，也只能用人也疑、疑人也用。由于政治态度、派系及各种利益关系复杂，没法保证用人的完全可靠，可恰恰又不能不用人。
蒋介石支持陈诚使用他的政敌，有让陈诚替他笼络这些人的意思，这些人在陈诚处受到重用，由于陈和蒋的关系，也就不会事事处处找蒋作对。既减轻了蒋的政治压力，也使这些人的才能得以发挥，最终还是对蒋有利的。不过在中原大战以后，像张发奎、薛岳等人，事实上已经末路穷途、苟延残喘，若不是陈诚又重用他们，其政治生命，难说不会完结。
在国民党大员中，陈诚是和与蒋介石持不同政见，而对共产党又不具好感的知识分子关系处理得最好的一个，例如胡适、蒋梦麟、梅贻琦等人。蒋介石也交往知识分子，他和胡适的关系来往很多，并曾一度要推胡适当“总统”。但蒋和胡的关系，是互相利用，蒋利用胡的名声，装点门面。由于蒋掌握着政权，胡是聪明人，撕破脸皮，让蒋和自己公开翻脸，对自己也不好，所以胡适虽然对蒋的政见很多并不赞同，也只得虚与蛇委，用比较婉转的手法去影响蒋。但胡适始终未放弃对蒋介石的批评，实质说来，只是不采用对付政敌那种疾言厉色的手段而已。而陈诚和胡适，恐怕在思想上更为接近。
陈诚和胡适、蒋梦麟、梅贻琦等这些大名鼎鼎的知识分子拉上关系，可能起于1936年的庐山训练团，因为以前陈诚没有和这些人交往的机会。1936年的庐山训练团，曾请胡适等人前往讲演，住在庐山，此时陈诚为训练团教育长，主持具体工作，平时和这些人打交道的就是陈诚。解放战争陈诚任参谋总长时，胡适正在策划教育改革，双方接触的机会更多了一些。陈诚重视科学，在他任军政部长时，提倡科学救国和科学建国，决定在大学中选拔最优秀的人才，送往美国深造，为将来发展国防科学做准备。于是兵工署署长俞大维就推荐了北京大学物理系教授吴大猷和另外一位数学教授、一位化学教授去美国。李政道此时正在吴大猷门下，他由吴带领去了美国。
陈诚任台湾省主席后不久，傅斯年出任台北大学校长。1950年12月，傅斯年在台北突患脑溢血去世，这时陈诚已任行政院长，乃邀正在美国的胡适回台出任台北大学校长，胡谢绝，推荐钱思亮。胡适在给赵元任的信中说：“孟真（傅斯年字）死后，有一个时期，陈辞修逼我回去做台大校长。我力辞，并推荐钱思亮，听说辞修大概决定思亮就任了。”陈诚在台湾和傅斯年的关系很密切，二人常在一起谈天，傅对陈的谈天本事很推崇，曾说：“我自认谈天的本事可打80分，可是辞修先生谈天的本领比我还强。”由于胡适坚辞，陈诚复电同意，称“不强先生所难”。接受胡的建议任命钱为台大校长。
这时蒋介石害怕胡适也像李宗仁一样，在美国也发表反对他的言论，乃一再邀请胡回台。1951年是蒋介石65岁大寿，蒋又邀胡回台为他祝寿，仍为胡适谢绝了。
1958年4月，胡适由美国回台湾，8日飞机在台湾松山机场降落时，陈诚亲率党政当局和学术界人士去机场迎接。1958年是陈诚60大寿（光绪23年旧历12月12日，公历1898年1月4日陈诚出生），寿辰之日，陈诚和胡适、蒋梦麟、梅贻琦、王世杰四人结伴南下旅行庆祝。胡适从美国回到台湾后，就有两个愿望，一是阻止蒋介石出任第三任“总统”，支持陈诚竞选“总统”；二是给国民党制造出一个反对党来，让台湾有两个政党，这样胡适所向往的民主气氛也就多一些。这时陈诚在台湾的声望，仅次于蒋介石，若蒋介石不参选，陈诚当选“总统”，几乎有百分之百的把握。所以人们就把陈、胡、蒋、梅、王五人结伴南行一事，比喻为“汉惠帝和商山四皓”了。“商山四皓”为秦末汉初避乱于陕西商县南山的四位隐士：东园公、绮里季、夏黄公、用里先生。汉高祖死后，吕后专权，以汉惠帝为傀儡，“四皓”支持汉惠帝，力斥吕家势力。把胡适、蒋梦麟、王世杰、梅贻琦四人比作“商山四皓”，可见陈诚当时出任“总统”的可能性之大。
胡适自己不想当“总统”，却想制造出一位“陈总统”来，这使蒋介石和陈诚的关系颇为微妙
最早看上陈诚的是史迪威。早在1943年他要求陈诚出任远征军总司令时，就有用陈诚取代蒋介石的打算。陈诚出任台湾省主席后，美国方面对陈诚的拉拢更为积极，曾密派驻华使馆参赞莫德成于1949年2月14日从南京飞往台湾，游说陈诚，劝陈与蒋介石分离，阻止蒋介石来台。据说陈诚为争取美援，也曾向美方表示愿意在台湾成立自治政府，他还表示，蒋介石下野后不会复出，胡适已同意做他的顾问。但美国不久就发现，陈诚是蒋的亲信，陈后来也向美方交了底，自己希望得到美援是真，但追随蒋介石多年，不可能拒绝他去台湾。
另外，据说蒋经国任台湾省党部主任委员时，陈诚曾下令对蒋经国24个小时全天候秘密监视，难怪以后蒋介石去台湾，不敢在台北登陆。据吴国桢回忆说，当蒋介石1949年5月决定去台湾时，“蒋先生自舟山致电陈诚，告有赴台之行，陈在24小时内未行复电，蒋只好改从高雄登岸，因高雄市非陈诚的势力范围。孙立人、彭孟缉等往迎，蒋介石劈头第一句话：‘我在此地安全吗？’孙立人回答：‘由我们保护，有什么不安全？’”蒋才放心。
蒋陈以后之所以合作愉快，一方面陈诚对蒋确无他意，蒋也知道，陈对美国人虚与蛇委，不过是为了骗点美援；另一方面陈诚在台势力已成，颇得民心，蒋也不得不借重陈诚，所以二人的合作也就维持了下来。陈诚的地位，由行政院长而“副总统”，国民党“副总裁”。陈诚在人事、军事方面和蒋的不同意见，蒋也能够容忍。陈诚于1954年任“副总统”后，行政院长由俞鸿钩接任，1957年俞因公教人员待遇调整问题，和“监察院”闹翻。“监察院”认为俞调整时机不当，要求其去“监察院”报告。俞断然拒绝，声称“宁可辞职，不向监察院低头”。“监察院”于是在1958年春对俞提出弹劾，俞辞职，蒋介石乃命“副总统”陈诚，兼任行政院长。
陈诚兼任行政院长为当时台湾各方面众望所归，即使俞鸿钧本人也认为：“在目前这个时候这个环境，由陈副总统出长行政院，为最适当最理想的人选。”陈诚重新组阁，将王世杰拉入阁中。在此之前，王因对蒋介石有自称“鞠躬尽瘁、死而后已”一言触怒蒋介石，王又和吴国桢关系密切，对吴国帧颇为同情而于1953年12月被蒋介石免去国民党中央秘书长一职。这时，胡适也已回国，出任中央研究院院长。
胡适的最大愿望，是把中国造就成一个美国式的民主国家。1952年11月19日，他接受台湾大学和台湾师范学院的邀请，回台湾讲学，胡的这次返台，受到蒋介石的热情招待，并和他共进晚餐。在交谈中，胡要求蒋改良政治，多一点民主自由。胡当面对蒋说：“台湾今日实无言论自由。第一，无一人敢批评彭孟缉。第二，无一语批评蒋经国。第三，无一语批评蒋总统。所谓无言论自由，是尽在不言中也。”也只有胡适这么大胆，敢当面揭蒋介石的短。而蒋介石也对胡的话不置可否，就问胡适另一个比较关心的问题，说：“召开国民大会有什么事可做？”胡答道：“当然是选举总统与副总统。”蒋又问：“这一届国大可以两次选举总统吗？”胡适回答道：“当然可以，此届国大召集是民国三十七年（1948）3月29日。总统任期到明年（1954）5月20日为满期，2月20日必须选出总统与副总统，故正在此第一届国大任期之中。”蒋于是劝胡早点回台湾居住，对胡说：“请你早点回来，我是最怕开会的。”1953年1月17日，胡离台返回美国。1954年2月，又返回台湾，参加选举“总统、副总统”的国大。
1957年2月17日，胡适因胃溃疡险些死去。病愈出院后，他写信给赵元任说：“我的看法是我有一个责任，可能留在国内比留在国外更重要。”并且还说，由他自己出钱，向中央研究院借一块地，建筑一座自己住的小房子。他死后，房子就捐给中央研究院。胡适要回台湾的消息为蒋介石所知，蒋高兴地说：“胡先生肯回来，不必自己花钱盖房子，政府可以给他办。”胡适便于1958年4月2日和此时正在美国购买原子反应炉的台湾清华大学校长梅贻琦一起返回台北。
胡适从1949年去美国时，就支持颇有自由民主思想的雷震办《自由中国》，对蒋介石的独裁和专制加以批评劝导，胡常为《自由中国》撰稿。胡文常鼓吹言论自由，这颇为台湾当局不满，国防部总政治部编了一本名叫《向毒素思想总攻击》的小册子，称有一知名学者，倡导所谓“向政府争取言论自由”，“要总裁仿效他做一个‘无智’、‘无能’、‘无为’的元首”。“目的在于制造人民与政府的对立，破坏团结，减损力量，执行分化政策，为共匪特务打先锋。”要蒋介石“无为、无能、无智”，是胡适在1956年蒋介石70大寿胡适发表的祝寿文章《述艾森豪威尔总统的两个故事给蒋总统祝寿》中提出来的。此时的胡适却也可怜，大陆的中共指责他为蒋介石的“走狗”，而台湾的政府言论又指责他是“共匪的帮凶”。
胡适从美国回台北，是有意号召为国民党组织一个反对党的。1958年5月，胡适应邀在《自由中国》社餐会上讲话，胡演说的题为《从争取言论自由谈到反对党》。认为台湾在争取言论自由方面，比过去有进步。随后说：“今天大家觉得一党当政的时间太久了，没有一个制裁的力量，流弊甚多，应该有一个别的党派出来。我在多年前曾公开说过，希望中国国民党能学土耳其凯末尔的榜样，党内分化为两个党。但直到今天都还没有出来。现在可否让教育男、青年、知识分子出来组织一个不希望取得政权的在野党。一般手无寸铁的书呆子出来组党，大家总可相信不会有什么危险，政府也不必害怕。”胡适为了能使新党产生，调门是相当低的。在胡适的这次讲话之后，主办《自由中国》的雷震等人便开始筹组新党的活动，准备在1960年9月底或10月初正式成立。
1960年是台湾的“大选”年，按台湾的宪法，总统只能连任一次。蒋介石1948年当选总统，1954年第一任期满。1954年连选连任，到1960年期满。按宪法规定，蒋介石不能再担任第三届总统。蒋介石若想竞选第三届总统，就必须先修改宪法，否则就违宪。所以从1959年起，台湾便展开了一场围绕蒋介石应否再连任总统，是否修改宪法的大辩论。环顾当时台湾政坛，蒋介石之外，总统非陈诚莫属。这样，是否赞成总统继续连任、是否赞成修宪，事实上成了“拥蒋”或“拥陈”的标准。
胡适是支持陈诚当总统最坚决的人之一，他公开反对蒋介石做第三届“总统”，说：“国大即将召开，蒋先生应树立合法、和平、转移政权之典范，不应为第三任总统。”此事在报上公开后，国民党一些高层人物很是不满。胡适等人还去见陈诚，要陈诚向蒋公开表态，不要做第三届“总统”。此时的陈诚，可谓尴尬之极，任何表示，都有对蒋“逼宫”之嫌。事实上，陈诚未必不想做第三任总统，因为他如果此时公开站出来，要求让蒋继续担任总统，修改宪法，对蒋来说事情好办得多，可陈偏偏不出面。
由于胡适公开反对蒋继续担任“总统”，和胡关系很近的王世杰就劝胡说：“你尽可坚持你的主张，但台湾现时国际地位太脆弱，经不起你与蒋先生公开决裂。”胡适也就不再继续公开发表反对蒋的意见。
1960年3月，国民大会决定修宪，使蒋介石得以连任。随后，选举蒋为“总统”，陈诚为第三任“副总统”，蒋仍让陈诚担任行政院长。陈诚此时病情已相当严重，乃一再请辞行政院长，蒋不准。到1963年12月，陈诚病重，才辞去行政院长职，由财政部长严家淦接任。
胡适和《自由中国》的雷震等人，反对蒋介石连任“总统”，这使蒋大为不快，决定对其加以惩治。1963年9月4日，台湾警备总司令部以雷震“文字叛乱”和“知匪不报”为名，逮捕了雷震及《自由中国》编辑傅正、会计刘子英。马之(马肃)等4人，《自由中国》因此停刊。此时胡适正在美国，陈诚把此消息电告胡适，胡打电报给陈诚说：“万望我公戒军法机关不得用刑审，不得妄造更大罪名，以毁坏政府的名誉。”最后雷震等人都被判刑。
陈诚去世的前几年，蒋介石对陈更为看重。陈诚去世，将后事托付给了蒋介石
1960年蒋介石不顾来势汹汹的反对，硬又当了“总统”，既未引起大的风波，也未导致国民党内部的分裂，得归功于陈诚顾全大局，未和蒋争。所以蒋在当了“总统”后，便让陈诚继续当行政院院长。
1961年5月，陈诚决定改革币制，准备发行百元大钞，结果引起轩然大波，一部分人担心发行大钞会引起通货膨胀，走上过去发金元券的老路。但台湾银行董事长尹仲容认为将发行百元大钞和通货膨胀联系起来是错误的，坚决支持陈诚发行百元大钞的计划。尹仲容和陈诚关系密切，尹仲容曾任俞鸿钧内阁经济部长，因为扬子木材公司贷款不当，引咎辞职，后来是由陈诚一手提拔起来，出任台湾银行董事长。由于陈诚和尹仲容有这层关系，尹仲容支持陈诚的币制改革，有些人认为是私而忘公，是替陈诚挎刀护航。发行百元大钞的方案送到立法院审查时，一些立委指责陈诚勾结尹仲容，欲将台湾经济“拖垮”。陈诚不为反对意见所动，于1961年6月9日下令百元大钞由台湾银行发行。六十年代初，台湾经济已开始起飞，百元大钞的发行，不仅未引起通货膨胀，而且对台湾经济的顺利发展起到了促进的作用。
为了适应六十年代后台湾经济出现迅速发展和经济结构开始转型、升级的形势，1960年1月，陈诚以行政院长的身份，召集金融、财经和贸易部门的官员，制定了“加速经济发展19点计划”和“奖励投资条例”。1961年7月1日，陈诚主持召开第一次阳明山会谈，邀请台湾专家61人、国外人士44人，以财经问题为中心，举行座谈。第一次阳明山会谈是在1958年国共金门炮战和台湾内部雷震“（自由中国）案”之后，其以财经为中心内容的议题表明台湾当局在稳定了台湾防卫局势和结束内部争论之后，将主要精力转到了经济建设上。陈诚在第一次阳明山会议致词中说：“历史告诉我们，经济是决定战争成败的主要因素，也是保障胜利成果的主要条件，从第一次世界大战和第二次世界大战情形可以说明。”第一次阳明山会谈，成果有限，但这次会议表明了台湾施政重点的转变。以后，陈诚又主持了以文化、教育和科技为主要讨论内容的第二次阳明山会谈。
从五十年代开始，台湾在联合国代表“中国”的地位一再受到挑战，当时的苏联、印度等国提出，以中华人民共和国取代台湾的中华民国在联合国中的席位。美国支持台湾，希望台湾能够保持在联合国中的席位，以“缓议案”的方式，将大陆中国进入联合国的提案加以搁置。1960年联合国大会，美国再次使用“缓议案”，投票通过时，只以8票的优势勉强通过。为了保住台湾“中华民国”在联合国的席位，美国政府开始倾向于在联合国中制造两个中国，保持台湾席位，也让中共加入。对美方的这一立场，台湾方面反对。鉴于台湾方面有被彻底赶出联合国的危险，1961年7月，美国总统肯尼迪致函蒋介石，邀请蒋访美，讨论中国在联合国的席位问题。蒋介石在复函中声称，他从1949年以前访问印度和菲律宾之后，曾发誓在光复大陆之前，不再离开台湾一步，谢绝了肯尼迪的邀请。肯尼迪乃于7月17日再度致函蒋介石，要他派一位能代表台湾及蒋本人的人，前往美国访问。蒋介石无法再推，乃决定派陈诚代表自己，前往美国访问。
1961年7月29日，陈诚由外交部长沈昌焕陪同，携夫人谭祥，前往美国访问。行前，蒋介石亲至陈诚在台北信义路的官邸，晤谈一个多小时。走时，宋美龄又亲至松山机场送行。
7月29日正午陈诚离开台北，乘翠微号专机到东京。然后换乘泛美航空公司的班机到旧金山，再转乘美国总统专机于7月31日到达华盛顿。
总的来说，陈诚此次访美对台湾来说是成功的。美国态度虽然仍旧模糊，但表示支持台湾在联合国的席位，反对中国大陆进入联合国。会谈结束，陈诚访问了威廉斯堡、纽约、芝加哥、底特律、旧金山、夏威夷等地，会晤艾森豪威尔、麦克阿瑟、参议员诺兰等人以及访问各地的华侨领袖和当地商界、文化界的名人。另外，看望了正在美国留学的女儿陈幸、陈平和长子陈履安。8月13日，陈诚一行返回台北。
陈诚身体一直不好，在抗战时期和解放战争中，几度因胃病卸职。1948年最后一次卸职，整个胃割去了三分之二。1961年8月他从美国访问返台后，即主持了第二次阳明山会谈。会谈快结束时，觉得疲倦无力，食欲不振。经医生检查，发现肝脏肿大。11月初，住进荣民总医院治疗。这时恰值谭祥患胆结石，二人乃同时住院。病愈后，仍旧主持行政院工作。
1963年2月，蒋介石派陈诚访问越南，3月访问菲律宾。当年夏，陈诚病情恶化，医生要他停止一切活动。陈诚乃请假一个月，赴阳明山休养。休养期间，行政院长职务由副院长王云五暂代。休养一月期满，病情仍不见好转，蒋介石特准延长假期两个月。陈诚于是和夫人谭祥一起，赴日月潭休养。
1963年9月16日，由于台风带来大量降雨，台湾北部发生罕见的大水灾，陈诚乃结束休假回台北处理公务。到年底，病情恶化。1963年12月15日，陈诚以肝病恶化，请辞行政院长。次日，蒋介石接受他的辞职，命财政部长严家淦出任行政院长。
1964年8月，医生确诊陈诚肝部已为癌细胞侵噬。1965年2月，双脚突然肿胀。诊断结果，确认癌细胞已扩散。1965年3月5日，陈诚逝世。
在陈诚病重期间，蒋介石、宋美龄夫妇，蒋经国多次到医院探视，陈诚向蒋介石托孤。3月6日，蒋介石亲至台北殡仪馆，在陈诚灵前致哀，并亲自主祭，作挽文称：“光复志节已至最后奋斗关头，那堪吊殇，果有数耶！革命事业尚在共同完成阶段，竟忍夺我元辅，岂无天乎？”
陈诚在台湾稳定金融、整顿秩序、实行三七五减租、重视水利建设，“以农业培植工业，以工业发展农业”，对台湾经济的恢复、发展和起飞做出了卓越的贡献。尤其是他实行的“耕者有其田”、“农地重划”政策，更使他受到农民的普遍拥护。
陈诚逝世后，倍极哀荣。据说从3月6日到9日的4天中，主动去灵堂祭拜的在10万人以上。3月10日，由蒋介石和宋美龄主持公祭。11—15日，灵堂继续开放，主动前来致祭的人有50多万。一些农民甚至全家老小、带着挽联和祭文几次来祭。
陈诚去世后，蒋陈两家关系依旧，蒋经国在政坛上扶植起了陈履安
从陈诚去台湾和蒋介石在大陆失败起，就风闻蒋陈失和的消息。
先是说陈诚在台湾对蒋经国进行24小时全天候的监视，随后有美国支持陈诚不让蒋介石去台湾之说，后来又有胡适等人支持陈诚竞选“总统”、反对蒋介石连任的事件。街头传闻，新闻界哄嚷似乎蒋陈关系已有剑拔弩张之势，实际情况，绝非如此。
说蒋介石和陈诚关系恶化第一个证据是蒋陈争权。这种说法是有相当事实作证据的，一是在蒋介石去台湾之前和蒋到台湾之初，美国确实在拉陈诚逼蒋下台，陈诚和蒋介石在一些问题上也确实存在分歧；二是以后胡适等自由派人士支持陈诚当“总统”，也确实有将陈诚推到蒋介石对立面的倾向。但这仅仅是表层事实。其实，陈诚对蒋介石很佩服，在根本方针上和蒋并无大的分歧。蒋介石对陈诚的话也能听得进，大多数建议都得到了采纳，陈诚在蒋手下宠信有加，从未受冷落，也就很难起异心。蒋陈私交深厚，在很多问题上陈诚替蒋介石担了过；但在陈诚倍受攻击时，蒋介石也多次替陈诚缓颊，如陈诚在东北指挥失利，大受攻击时，蒋介石就亲自出面替陈诚辩解。蒋陈在公私关系上，根本利益一致，可以说一荣俱荣，一损俱损，互相敌对，对双方都不利。另外，蒋介石虽然在大陆失败，但在国民党内部，威信仍在。蒋是当时国民党军政要人中唯一能为各方承认和尊敬的人选，到台湾后，别人的威望和地位，都不足以对蒋介石的地位提出挑战。国民党政府撤到台湾后，陈诚因为在台湾的政绩，威望颇高，但其威望地位在国民党内部远远不能和蒋介石相匹敌，一些军政大员，诸如何应钦、朱绍良、张群等，根本不会拥陈反蒋。陈诚系内部的人，大都是蒋介石通过陈诚提拔起来的，陈诚没有力量让这些人效忠自己而去反对蒋介石，这些人在陈诚效忠蒋介石的情况下听陈指挥，若陈诚反蒋，是否还听陈的命令，大可考虑。
从上述分析可以看出，陈诚是不会、不愿也不能、不敢反对蒋介石的，说蒋陈争权，只是外人的一种附会。
说蒋介石和陈诚关系恶化的第二个证据是陈诚和蒋经国争权。陈诚本是蒋介石扶植的接班人，但到台湾后，蒋介石有心扶植蒋经国，引起陈诚不满。无庸置疑，蒋介石扶植蒋经国是不错的，这从抗战时期就开始了，到台湾以后，扶植更为积极。但有几点应注意，一是蒋经国很长时间做陈诚的下级，陈诚和蒋经国的关系没有失和或公开冲突的传闻。二是陈诚在台湾的声望、地位，是蒋介石一人之下，众人之上；蒋经国到台湾时，既无足以称道的政绩，也无显赫的地位，根本没有和陈诚对抗或争权的实力。三是陈诚多病，身体不好，其生命很难延续到蒋介石之后；蒋经国是在陈诚病情恶化的前几年在台湾政治上才走上前台的。陈诚以不久在世之身，不会对蒋经国的接班问题产生威胁。最后，蒋经国真正在政治上获得声誉是在陈诚去世之后。
事实上，蒋介石和陈诚的关系根本就没有失和，种种传说，不过是新闻界捕风捉影。陈诚去世后，蒋氏父子对谭祥和陈诚子女颇为照顾。在蒋经国执政时期，他扶植起了陈诚的长子陈履安，使陈履安成为80年代台湾政坛上的一颗新星，一度曾任国防部长。目前陈履安为台湾监察院长，在政治上仍为有相当实力的人物。