1949年初，经过辽沈、平津、淮海三大战役，国民党军队的力量已被消灭过半，国民党在大陆的统治局面也如西山落日。三大战役之后，作为退守之地，国民党只有大陆西南、海南、台湾可以选择。此前蒋介石已在1948年底进行撤退安排，不过促成国民党的党、政、军、经、文等人员及物资东撤台湾，是来自张其昀等人的建议。

抗战时期，张其昀经同乡陈布雷的引荐，结识了蒋介石。陈布雷自杀之后，蒋介石身边的空白也是由张其昀来填补的。

蒋介石之所以会看中张其昀，除了同乡关系及陈布雷之死形成的空缺，更主要的还是因为张其昀的思想和才华。张其昀曾撰写过《中国历代教育家史略》一书，此书深得蒋氏的赏识。

1949年夏，应蒋介石的邀请，张其昀离开大陆，赴台湾出任国民党“总裁办公室秘书组组长”，这实际就是取代了已死的陈布雷，成为蒋氏“小朝廷”中“官邸派”的重要代表人物之一。

1949年初，经过辽沈、平津、淮海三大战役，国民党军队的有生力量已被消灭过半，国民党在大陆的统治面临彻底垮台的命运。此时蒋介石采纳了张其昀的建议，决定把台湾作为退身之所。

当时蒋介石和张其昀都认为：退居台湾，退可守，进可攻；台湾与大陆隔着一条海峡，凭借海峡天险和海、空军力量，完全可以抗衡当时尚无海、空军的中国共产党，以积聚力量，待国际形势发生于己有利的变化时，再“反攻大陆”。

1949年5月17日蒋经国的日记中提到：此时中枢无主，江南半壁业已风声鹤唳，草木皆兵，父亲决计去台，重振革命大业。

1949年10月广州失守后，国民党当局仍将其全部中枢机构迁至重庆和成都。张其昀认为西撤川康不妥，并说明东撤台湾的种种优势。

首先是台湾海峡海阔浪高，只有它才能暂时阻止没有海、空优势的共產党军队的乘胜追击。

其次，台湾作为反共救国的復兴基地，有着大陆其他地区无法比拟的优越之处，即：1、台湾气候适宜，物產丰富，全岛土地利用率高，粮食等农產品基本可满足军民所需；2、台岛内部交通便利，工业有日据时代留下的基础，若善于经营，经济可望起飞。3、在军事上，台岛有海峡与大陆相隔，易于防守。

另外，台湾位于太平洋西缘，扼太平洋西航道之中，与美国的远东防线衔接，战略地位极为重要，美国不会弃之不顾，若得美援，台湾将万无一失。

第三，台湾长期与大陆阻隔，中共组织与人员活动较少，境内铁路、公路四通八达，农村都已开发，当局极易消除不稳定因素以稳定社会。

因此，国民党迁台，再带来资金和人才，必将建成稳固和强盛的台湾基地，适当时就可反攻大陆，台湾于是成为国民党及蒋介石的最终选择。