朱家骅由大陆流亡台湾，由于派系倾轧，加之与大权在握、日见走红的台湾省主席陈诚不和，朱氏渐渐失去了蒋的信任，原来担负的行政院副院长等要职被革掉，只保留了“中央研究院”代院长一职。而此时所谓的“中央研究院”只有史语所与数学所一部分迁到台湾，基本属于一个有名无实的空架子，如同一只被拔掉毛的老母鸡，徒有其形——且是一个不怎么光鲜明亮的外形而已。1954年前后，位于南港的“中央研究院”院址具初步规划时，朱家骅有扩院建所的打算，并于史语所以外寻找其他人文研究所成立的可能，最先被考虑的是近代史研究所与民族学研究所两机构的组建。之所以如此考虑，一方面，鉴于国民党政权迁台不久，对民国成立以来的种种盘根错节、迷乱纷呈的历史转变因素的认识和理清，颇有紧迫感和反思指导意义；另一方面，国民党政权既以台湾为盘据点，就不能做水中浮萍和无根之花，必须对台湾本地的种种现象有所探究，否则，很容易在不经意间于政治等各方面栽跟头、吃大亏，甚至被当地台独势力挤垮，失掉政权，难以立足。因了这两项重要原因和紧迫的现实问题，1955年，两个研究所的筹备计划顺利得到当局批准并得以开办。
当两个新办的研究所如同新生婴儿般，在动荡不安的台湾孤岛上晃晃悠悠站立起来时，学政两界人心振奋。于是，一系列的物理所、化学所、植物所等研究所相继组建，其风头之强悍，完全可与抗战前蔡元培主持工作时的锐势匹敌。正在这个由衰转盛的关键时刻，接到了胡适要买地盖房的消息。朱家骅同样不敢隐瞒和擅自做主，便直接向蒋介石禀报。蒋闻讯，当场表示在“中央研究院”旁拨一块地为胡氏置地建房，所需费用由自己的稿费中开销，以示对胡的照顾与敬重。此谕一下，搞得朱家骅和李济都有些尴尬，但又不能推辞。在美国的胡适闻讯甚感不安，认为自己受主公之重托出来“看看”，结果什么也没看到，无尺寸之功则要受赂，实感愧疚，便写信明确表示不能接受介公如此盛情厚意，坚持要自己出钱购置地皮。就在双方为几间房子或真或假地你来我往拖拍之时，针对朱家骅的一件祸事发生了。
据石璋如回忆：“四十六年（1957年）夏天，由于天气炎热，又没有外人。尤其在星期六快下班和星期天的时候，同仁常穿着拖鞋、汗衫上班。在八月四日星期六，是个闷热的阴天，下午五点多蒋总统突然偕蒋夫人、带着随扈来到院里，大概是要找朱家骅院长的麻烦。蒋一行人抵院时，院方已经下班了，多处门房深锁，卫队直接到所上，就碰到还没回家的严耕望先生。严先生先请一行人至会议室暂坐，随即来找我告知此事。我才刚到家脱下衣服，马上穿回衣服出来。我到所时只见到蒋总统一行人已出所的背影，无法对他们有所招待，谁知道这样就出错了。‘中央研究院’有固定的上班时间，‘蒋总统’来所时已属下班时间，不能说‘中央研究院’偷懒不上班。后来不知道有谁说了什么话，朱家骅院长就在十一月辞职。”
朱家骅突遭横祸，庙堂与坊间滋生了许多说法，但没有一件能摆到桌面上的铁证。有人说，在1948至1949年国民党大势已去的重要历史转折关头，李宗仁、白崇禧等桂系军阀联合阎锡山辈趁机拥兵自重，逼蒋介石下野。蒋于万般无奈中只得屈从，由李宗仁代总统。蒋回到老家浙江奉化溪口暂时隐居后，李、白等军阀集团开始拉阎锡山、朱家骅、王世杰、张治中、吴铁城等各色官僚合作，并以“卧榻之侧，岂容他人鼾睡”的霸王姿态，逼蒋出洋流亡，永远在中国地盘上消失。蒋于1949年3月3日接到张治中亲自上门敦促其出国的要求，甚感悲愤，勃然大怒曰：“他们（南按：李宗仁、白崇禧）逼我下野是可以的，要逼我亡命就不行！下野后我就是个普通国民，哪里都可以自由居住，何况是在我的家乡。”
3月4日，吴铁城再次派李惟果前往溪口，转达李宗仁集团希望其尽快出洋之意，蒋更为盛怒，除大骂一顿“娘希匹”和李宗仁“不仁”之外，还差一点将李惟果抓起来“斩立决”。蒋介石背运至此，李、白等辈逼宫至此，世道无常，政客无情由此可见。再后来，随着国民党军弃守南京，李宗仁统率政府人员流窜到广州。6月12日，由阎锡山出任行政院长兼国防部长，朱家骅出任行政院副院长，以新任内阁掣肘蒋的国民党总裁权力。蒋介石把朱家骅这一做法看作是对自己的叛逆，遂怀恨在心，伺机发难。
1950年3月1日，已逃往台湾刚喘过一口气的蒋介石，在“国大代表”及各界人士“劝进”下，一脚踢开以治病为名滞留美国，怕遭到像张学良一样软禁待遇而不敢回台的李宗仁（南按：桂系军队几乎全军覆灭，李已失去依靠），在台北“总统府”正式“复职视事”，履行“总统职权”。从此偏安一隅，成为终身“总统”，且把其位传诸其子蒋经国。蒋介石在台湾“登基”后，远在美国纽约、不明事理的李宗仁闻讯，对外发表讲话，称自己仍是中华民国的“代总统”，正准备回国复职，想不到蒋氏竟违背宪法，擅自宣布令人惊异云云。蒋介石见报，立即实施反制，公开致电李宗仁，以“总统”身份令其“代表中正访问美国朝野从速回国”。李宗仁搞了个灰头土脸，四年后终于被蒋介石以宪法的名义，正式罢免早就已经被国人抛入九霄云外的所谓“副总统”职位。在美国的李宗仁闻讯跺脚骂娘，但已没有多少人有兴趣听这个败军失国之将和不成器的官僚政客瞎吵嚷了。
同不识大体的李宗仁相比，老奸巨猾的阎锡山聪明乖巧得多。蒋介石复职后，阎深感不妙，主动向蒋介石辞去“行政院长”（南按：1950年1月－1950年3月，由顾祝同接替阎出任“国防部长”），蒋虚意挽留，终获准许，由陈诚继任“行政院长”。从此，台湾的蒋氏政权开始形成了“蒋陈体制”，陈诚一跃成为台湾仅次于蒋氏的二号实权人物。阎锡山辞职后，获得“总统府”资政和国民党中央评议委员两个虚衔，而后一头钻入台北市金山之麓自己盖的窑洞中，不问世事，埋头著述，过起了隐士生活。
与阎锡山在广州一道组阁并出任行政院副院长的朱家骅，自国民政府一帮孤臣败将迁台后，“总统府”与“行政院”均在台北介寿馆办公。因“代总统”李宗仁仍在美国，不能抵台视事，自1950年2月19日起，由朱家骅代行“总统”职权，此为朱氏一生权力达到巅峰的短暂时刻。据李宗仁回忆说：“朱家骅在当时党人中算是比较识大体的一位……为着维持‘银元券’，他曾两度飞台，向蒋请示，拟运一批银元来穗。此举可说纯为大局着想，远非陈果夫、陈立夫兄弟所能及。然朱家骅可能因此而触蒋氏之忌，嗣后在台几度遭蒋的为难。”李宗仁所言大体不差，蒋介石早就把朱视为异己分子而有收拾之心。蒋复任“总统”后，深知一朝天子一朝臣的朱家骅同阎锡山一样，颇有自知之明地辞却“行政院”副院长之职，专任“总统府”资政与“中央研究院”代院长，以避锋芒。但是，蒋介石并没有忘记在自己最倒霉的时候，朱氏所做的落井下石的前朝旧事，总是耿耿于怀，待机而发。1950年6月，朝鲜战争爆发，美国第七舰队驶入台湾海峡阻止解放军进攻，岌岌可危的国民党小朝廷稳住了阵脚。在这种急转直下的局面下，一直忍而不发的蒋介石开始对前朝的“叛逆”予以外科手术式打击和肃清。当王世杰的“总统府”秘书长被以“蒙混舞弊，不尽职守”罪名整肃掉之后（南按：有人说王在蒋面前说了一句“我是鞠躬尽瘁，死而后已”，惹得蒋大怒，意即王氏把蒋氏父子看成阿斗之类的人物，王遂被撤职），便把目标转向了朱家骅。此时的朱家骅与炙手可热、大权在握的陈诚关系越来越糟，遂加快了其被从国民党权力圈中扫地出门的步伐。在各方权贵阴谋与阳谋的合力夹击、施压下，朱家骅心有不甘但又无可奈何地于1957年10月22日辞去“中央研究院”代院长一职，1958年1月11日办理移交手续，只剩一个新聘的“总统府国策顾问”空冠戴回家中高挂于墙壁之上，以发思古之幽情，叹世事之无常了。
朱氏辞职后，蒋属意胡适回台继任，在胡一时不能回归之前，指令由李济暂代“中央研究院”院长职。未久，“中央研究院”按照惯例召开评议会推选新任院长，众评议员推举了三人，即胡适、李济、李书华，由“总统”圈点，胡适当然地进入圈内。据石璋如说：“做过驻美大使、北大校长的胡适先生，抗战中帮了中国不少忙，政治上坚决反共，（民国）四十几年大陆清算胡先生，台湾眼见大陆批胡，于是就捧胡，使台湾与胡先生合拍。若非大陆清算胡先生，以他的自由派立场，总统也不太放心的。当局既然有心安排胡先生出任中央研究院院长，自然就要虚位以待，朱先生必须辞职。”
石氏的回忆再次印证，蒋介石早就想收拾朱家骅，只是没有一个适当的借口而迟迟未能得手，恰好这时胡适提出回台盖房著书立说，蒋氏决意要拿自己的稿费予以成全，看似违反常规，实则是一个倒朱扶胡的信号。这个信号朱家骅或许蒙在鼓里，或许已有警觉。但不管哪一种情形，到了这个时候已经显得不重要了，重要的是朱在什么时间下台的问题。当蒋介石等得不耐烦的时候。便抓住“中央研究院”人员“偷懒”这个不是问题的问题向朱开火。朱氏不堪重击，轰然倒地，而中共在大陆发起的“批胡运动”，又促使蒋做出反击的姿态并有明确的表示。如此这般，胡适像当年水泊梁山的及时雨宋江一样，顺利坐上了已落草台湾孤岛的“中央研究院”院长头把虎皮交椅。正可谓“时来天地皆助力，运去英雄不自由”，如此阴阳差错的命运交织，是朱家骅和胡适本人都始料不及的。