1920年春末，颜惠庆辞去三国公使职务携全家返回上海。8月11日，颜惠庆署理靳云鹏内阁的外交总长。他上任后首先从改革不合国际惯例的外交部部务入手，并在部内设立“储才馆”，培养外交人才。他利用新生的苏维埃俄国发表亲华的“加拉罕宣言”的机会，亲自主持中苏建交谈判，接见苏方谈判代表优林，试图打破西方列强对中国的外交合围，表现出一个职业外交官的远见卓识，只可惜当时政府更迭频仍，中苏谈判最终无果而终。

1921年6月14日，颜惠庆被正式任命为外交总长，先后负责处理对日交涉珲春案、福州惨案和庙街事件，并成功阻止了对华严重不利的《英日同盟条约》续签。当时，颜惠庆面临的最大挑战就是主持中国在华盛顿会议上的诸项交涉。10月，中国出席华会代表团启程赴美，颜惠庆在京遥控，成为代表团在国内最坚实的后盾和外交运作的总指挥。谈判中围绕山东问题和胶济铁路的中日争端引起了举国上下极大的关注。不少国人希望中国能在华会上借助多边谈判彻底解决这些问题。在外交上一贯谨慎务实的颜惠庆并没有那么乐观，由于国弱言轻，他先是同意代表团接受对日“边缘谈判”的方式，在将民众反日怒潮引向时任总理的梁士诒之后，又巧妙地利用军阀间的“电报战”，不仅使外交部取得了对于胶济铁路交涉案的控制权，还在一场“颜梁政争”中大获全胜，梁内阁倒台后，颜惠庆署理国务总理。

1922年2月，他授权中国出席华盛顿会议代表团签署《解决山东悬案条约》，华会外交取得了一定成果。然而，在派系林立、军阀当道的北京政府内，颜惠庆很难施展抱负，首次署理国务总理之后数年间，他曾多次组阁，但都难脱草草收场的结局。1922年6月12日，颜惠庆任黎元洪政府的国务总理兼外交总长，因屡遭国会刁难，不得不于 7月29日内阁全体辞职。

1926年5月，颜在吴佩孚支持下再度组阁，但由于奉系军阀张作霖从中作梗，竟然出现无阁员入阁的窘境，落下了“光杆内阁”的笑话。6月20日，颜惠庆被迫下台，离开政治中心北京在天津当起寓公，专心投资实业。

赴国难再度出山

颜惠庆与胡蝶等前往苏联九一八事变的爆发，成为颜惠庆人生的又一个转斩点。

1931年10月，他欣然出任国民政府外交特种委员会委员，主要负责对美交涉。11月，他被任命为驻美公使，抵美后不久又被任命为中国出席国联行政院会议首席代表和中国驻国联代表团团长。

1932年2月5日，颜作为中国首席代表出席国际裁军会议，并以裁军会议为掩护与苏联外长李维诺夫就两国复交展开秘密谈判。经过长达10个月的反复磋商，中苏两国正式复交，这在一定程度上打破了九一八之后中国在外交上的困境与国联外交的僵局。

1933年1月31日，颜惠庆被任命为中国驻苏大使。3月5日，他抵达莫斯科就职，后与苏方就《中苏商约》和《中苏互不侵犯条约》的签订展开谈判，但因多方掣肘未获成功。5月18日，赴伦敦参加世界经济会议。7月22日，他代表国民政府签署《白银协定》。是年底，因不满南京当局对苏交涉不力，在未获国民政府批准的情况下执意回国休假，返抵上海，请辞不准，遂称病回天津休养。期间，曾两次南下谒蒋，蒋力劝其返俄，终于1935年2月21日启程续职。3月13日，偕梅兰芳和胡蝶等组成的中国文化界访苏代表团抵达莫斯科，试图通过民间外交途径改善两国关系。不料，苏联却公然向伪满出售中东铁路，两国关系再度紧张，颜惠庆虽多方奔走，但已回天乏术。9月，以中方首席代表身份出席国联全体大会，各大国在处理意大利出兵侵占埃塞俄比亚问题上的自保与绥靖，令颜惠庆对国联外交彻底失望。1936年3月，他坚辞驻苏大使职，获准。6月11日，返抵上海，从此结束职业外交官生涯，回到天津家中一边经营实业，一边忙慈善。

1937年7月“卢沟桥事变”爆发，他举家南迁上海，在“八·一三”淞沪抗战期间主持上海的难民救济与伤兵救护工作，并出任上海国际救济委员会主席、上海防痨协会会长等职;9月20日，以中国国际问题研究会会长名义致电国联揭露日本侵华暴行;10月22日，对美国发表公开广播演讲。1938年1月，当选为国际反侵略大会中国分会名誉主席团成员，6月，当选国民政府第一届国民参政会参政员。抗战全面爆发后，国民政府又开始重新起用像颜惠庆这样的老牌外交家。

1938年8月，颜以出席第六届太平洋国交讨论会中国首席代表的公开身份离沪赴美，其真正的身份实为蒋介石的私人特使。11月1日，他在胡适大使的陪同下谒见美国总统罗斯福，并呈递蒋介石的亲笔信函。11月下旬，出席于美国维多利亚港举行的太平洋国交讨论会，在会上谴责日军暴行，并就国际安全展开研讨。会后，继续留美协助胡适拓展对美外交，一度获得蒋介石赏识，邀其出任外交部长，婉拒。

1940年3月15日，颜惠庆返抵香港。不久太平洋战争爆发，香港沦陷，他与陈友仁等人遭日军软禁，亦被日军押返上海，自此闭门不出，拒不与汪伪政府合作。

1945年8月日军投降后，颜惠庆曾出面维持上海战后秩序，并代表中国政府慰问在上海日军集中营的各国战俘。

投向人民的怀抱

天津颜惠庆旧居1946年11月，颜惠庆当选为“联合国善后救济总署远东区域委员会”主席。国民党行宪政府成立时，蒋介石曾竭力拉拢颜惠庆担任立法院长，被拒绝。

1949年2月，受代总统李宗仁委托，颜惠庆抱病率上海各界和平代表团赴北平商谈南北通邮通航事宜，受到中共领导人毛泽东、周恩来等人接见，解放区的繁荣昌盛给他留下深刻印象。返沪后两次拒绝蒋介石邀他赴台邀请，毅然留在上海，迎接解放。

新中国成立后，颜惠庆出任中国人民政治协商会议委员、中央政府政务院委员、华东军政委员会副主席、中央人民政府政治法律委员会委员和中苏友好协会会长等重要职务，为新中国的建设做出了贡献。

1950年5月24日，因病于上海逝世，享年73岁。