叶公超出身书香世家。他中学时代即留学美、英、法。曾是着名诗人弗洛斯特的高足，并出了本英文诗集。后入英国剑桥大学，获硕士学位。在英国他得到罗素的赏识，还与着名文论家艾略特亦师亦友，并首次把艾略特的作品引入中国。
那时北大英才云集，但叶公超凭着剑桥硕士的文凭，昂首步入英文系。这一年，他才22岁。下面的学生大多比他年长，废名就比他大四岁，便是最小的梁遇春，也只比他小两岁。这是他的两个得意弟子。梁遇春学习起来玩命，废名逃课也很拼命。
叶公超小小年纪就去了美国，英文了得，但中文底子没打好，对中国文化的认识也不够深。胡适赞他：“英文是第一等的英文，他说得更好，就是外国一般大政治家也不见得说得过公超。”但闻一多却戏谑他为“二毛子”。叶虽不以为忤，内心却大受刺激，对中国文学艺术猛力进修，不久即翻然一变，成为十足的中国文人。他上课时口衔栗色大烟斗，一派英国绅士派头，加之一口流利的英文，学生听得耳朵都长了，下课后还不愿离去。特别是那些纯情女生，个个如痴如醉，恨不得即刻以身相许。
叶公超的教学法非常奇特；他几乎从不讲解，一上堂，就让坐在前排的学生，由左到右依次朗读课文，到了一定段落，他大喊一声；“Stop！”问大家有问题没有，没人回答，就让学生依次朗读下去，一直到下课。偶尔有人提问，他就断喝一声：“查字典去!”这一声狮子吼大有威力，从此天下太平，宇域宁静，大家相安无事。有学生问，有的字在《英华合解词汇》里查不着，怎么办?他说：“那个《词汇》没用，烧了，要查《牛津大词典》。”
叶公超脾气坏，尤爱讽刺挖苦人：“他最注意发音，如果发音有误，照例须挨骂……即使是女同学，如发音恶劣，亦不稍假以辞色，直言斥讽，入木三分。”他教钱钟书时，也是这派头。他挖苦钱钟书说：“你不该来清华，应该去牛津。”
叶公超的才子脾气比他的教学方法更出名。他名士派头很足，有时路上学生恭敬地跟他打招呼，他似没看见；有时学生没看见他，他却隔着大马路大呼学生的名字。他考试评分非常严，令人提心吊胆。有个学生有点小才气，比较狂傲，在阅“莎士比亚”这门课的试卷时，叫—就给了他一个下马威——尽管他的试卷答得没有什么可挑剔的，但叶就是只给他58分。那学生去找他，想请他多加两分。叶见之，明知其意图，却只是很热情地给学生煮咖啡，和他兴高采烈地谈国家大事。谈了足足两小时，就是不给他讨分数的机会，哪怕几秒钟。学生无奈， 以为没戏，只好怅然离去。叶见他欲走，嘴上说“不送不送”，但最后一秒钟时，却追上去和学生握手，主动说给他把分加上去，但同时提条件说“以后上课时不可嚣张”。
叶公超偏爱述而不作，不立文字。他参与了《新月》杂志的编辑，最后三四期，因文稿匮乏，他只好自己动笔，刊出的几乎全是他的文字。1933年，叶公超与闻一多等创办《学文》月刊，作者中有一批北大、清华的高材生，季羡林也在其中。有一次季的散文《年》受到叶的垂青，获得发表，这下把他美得不得了，紧接着又写了篇《我是怎样写起文章来的》，期望也得到叶的首肯。可没料到，叶大发雷霆，铁青着脸大吼：“我一个字也没有看!”季吓得目瞪口呆，赶忙拿了文章走人。
鲁迅与新月派一向势同水火。1936年鲁迅逝世后，叶公超花了几周时间，把鲁迅的所有作品重读了一遍，发表了万字长文《关于非战士的鲁迅》，高度赞扬鲁迅在小说史、小说创作和散文上的成就。他甚而批评他那小圈子里的“哥们儿”——胡适、徐志摩的散文不敌鲁迅的。这种由衷的揄扬，惹得宅心仁厚的胡适都十分恼火：“鲁迅生前吐痰都会吐在你头上，你为什么写那样长的文章捧他?”叶不以为然，强调：“人归人，文章归文章，不能因人而否定其文学上的成就。”最后的岁月，他写的绝笔《病中琐记》的最后一章《评论鲁迅》，他还说想把当年的《关于非战士的鲁迅》找来读一读。他始终认为“不能因人而否定其文学成就”。
叶公超原本无心仕途，甚至反对文字议政。但1940年的一天，他突然离开昆明赴香港， 自此从中国文坛消失了。
原来1939年春，一封寄自香港的信件穿山越水，飞到了叶公超手上，叔父叶恭绰苍劲的笔迹赫然入目。叔父在信中，焦急地说了上海的事态，他担心姨太太潘某贪婪撒赖，可能图谋霸占包括毛公鼎在内的全部财产，因此叮咛叶公超火速赴沪，设法保全毛公鼎。他强调：“过去日本人和美国人两次想出高价购买毛公鼎，我没答应。这是国宝，决不能落在外人手中。”他星夜兼程。果不其然，潘某向日本宪兵队告了密。日本人立刻派兵把叶宅包围得严严实实。在叶宅里里外外掘地破壁，折腾了大半天后，连鼎的影子也没找着，气急败坏之际，便以“间谍罪”的罪名把叶公超抛进大牢，又不分昼夜，对叶公超先后7次提审，2次鞭刑、水刑，逼其说出藏鼎的地方。他被折磨得死去活来，却守口如瓶。他甚至做好了死的准备。然而他没能就死。
情势渐缓之后，叶公超密嘱家人仿造了一个赝晶缴上去，以蒙敌听。当他形容憔悴地走出牢房时，已然被整整关押了49天。翌年，他神不知鬼不觉地将毛公鼎运出大陆，终于使这一珍稀国宝一度脱离了虎狼之区。
口冠这一打，没把他的性命打掉，反把他对政治的兴趣给“打”出来了。经此生死风波，他心态一变，决意应承友人的延揽，辞教从政，自此涉入外交界。叶公超在清华园与友人谈及蒋介石时对其并无好感，那时压根没想到自己将来会入蒋的彀中，一度还成为重臣。这个曾对政治不屑一顾的人，这个因剑桥背景和语言天资而有些恃才傲物的人，一踏入政界，竟能凭借纯正的牛津口音、叼着烟斗的英国绅士派头，驰骋外交战场，见人说人话，见鬼说鬼话。对方是绅士，他比绅士还绅士：对方是流氓，他也会说比他更脏的脏话。这让在瓷盘上作画的叶公超赢得了“文学的天才，外交的奇才”之美誉。
蒋政权败退孤岛后，惊魂未定，前路未卜，正是在叶公超手里，签订了《中美共同防御条约》，这对蒋政权是一个生死攸关的保证，为台湾三十年的安定和日后的经济繁荣打下了基础。叶公超也因此成为蒋介石时期任期最长的“外交部长”。任“大使”期间，他极受美国总统艾森豪威尔的器重，也成为麦克阿瑟、杜勒斯、肯尼迪的座上客，其英语受到眼高于顶的英国首相丘吉尔的赏识。他应邀发表演讲，“不看讲稿，出口成章，手挥目送，亦庄亦谐。有时声若洪钟，排山倒海；忽然把声音降低到如怨如慕，窃窃私语，全场听众屏息静听”。演讲完毕，三四百位听众起立鼓掌，数分钟不息。在场的多位名教授都赞许他的英语是“王者英语”，声调和姿态简直可以和英国首相丘吉尔相媲美。恰在此时，在北京有人问留英多年的朱光潜：“中国谁的英文最好?”朱想了想，说：“可能还是叶公超。”
叶公超的英文确乎已到了令人连嫉妒之心都没有的地步。他以他一流的“王者英语”与世界各国政要觥筹交错，可谓意气风发。他熟读《孙子兵法》，并将其灵活自如地运用在外交上，十分有效。
不管叶公超的外交才能如何，还是改变不了台湾“外交部”逐步沦为“断交部”，以致像“王小二过年”一样的凄惨局面。蒙古于1946年元旦脱离中国宣布独立。蒋介石对此一直反对。对中国百余年的历史屈辱，他更是刻骨铭心。1961年联合国大会讨论蒙古入会案时，叶公超为扩大台湾的国际生存空间，勉强同意蒙古入会。蒋知道后勃然大怒，质问：“是做‘美国大使’还是做‘中华民国大使’?”嗣后，蒋介石一个急电，把叶公超召回“述职”。叶公超不知内幕，连办公桌都没有整理，只带了几件衬衫、领带，提起皮包就飞回来了。他原指望三日即归。谁知“总统”将其召回，却不召见。安理会复会日期转眼将至，他急于返美。但到第三天他才被冷淡地告知：另有安排，不必再回美国了。他做梦也没有想到此行就是他职业生涯的终点。这完全出乎他的意料，致使他在下榻的宾馆绕室彷徨整整三天三夜。自此他被禁止出境长达16年。
被逐出政坛后，叶公超的生活日趋沉闷。1962年春天，他应英千里、梁实秋等的邀请，到台大、师大兼任教授。他在台大外语系开的“现代英美诗选”是选修课，时间安排得并不好，可是第一天听课者就将教室内外挤得水泄不通，场面之热烈前所未有。3月13日下午，还没到两点钟，教室就已爆满，听课的很多是旁系的学生，他们特来一睹他的风采。在学生的翘首企盼中，他准时出现，依然是风度翩翩，如同出席记者招待会或演讲会。他没带任何讲稿，天马行空，首先问大家中国诗的起源，然后一直讲到英美现代诗，讲到狄金森、艾略特等代表人物，如数家珍。
自离开联大，20多年过去了，此番重上讲台，叶公超也不由得感慨：“还是文人最自由啊，早知今日，何必当初!”然而毕竟文人最天真。有人问：“假如生命可以重新来过，你打算如何?”叶公超不假思索地答：“我再也不做同样的事!”
新闻媒体报道叶公超任教的消息，引起了社会的普遍关注。当局不高兴，结果他只教了一个学期，就被迫永远离开了讲台。昔日的风流倜傥也一扫而空，老态毕显。
在最后的20年，他虽有“行政院政务委员”等虚衔，实则无“政”可“务”。他自嘲说：“身边有特务，政事不准问。”被困之中，他的后20年以练书法和绘画打发时光。他对好友梁实秋说：“好怒而写竹，喜则绘兰，闲来狩猎，感而赋诗。”
他喜欢画竹，所画雪竹尤富“不胜故国山河之感”。友人向他求画，他在画上的题字是：“未出土时先有节，到凌云处总无心。”此时，叶公超已不再“以骂会友”，而是“以画会友”，他和张大干、台静农都是好友。
叶公超的书画作品曾两度在香港展出，一时轰动香江，可惜两度他都未能躬逢其盛。他晚年时，书房中挂的是他指定何怀硕画的：“斜阳外，寒鸦数点，流水绕孤村。”
蒋介石辞世后，叶公超的日子稍显宽松，还被继任的蒋经国聘为“总统府”资政。但他依旧被困在孤岛上，不准去美国与亲人团聚。“我会被困死在这个岛上。”他浩叹。
直到1977年12月，有人向蒋经国建议让叶公超出去走走，蒋当即表示：“只要担保他按时返国，似无不可。”叶因此才有机会再次踏上那熟悉的土地。在最后的时光，他时常在医院走廊上散步，愁眉苦脸，动辄要哭。他指着家中的一幅《烟波江上一翁》说：“这老头就是我。”
1981年中秋之际，叶公超异常想念家人，但他们都远在美国。中秋夜，他兴致勃勃地挥毫书写苏东坡的《赤壁赋》。11月17日，收到宋美龄从美国寄来的黄褐色纯毛背心和消化饼干后，他整日沉默不语。次日晚，叶公超在病榻上对记者说：“我希望能再活个三年五载，整理一些少年时写的作品。”不到两天，他就走了。临终之际，身边没有一个亲人。
