卢怀慎是唐玄宗开元前期的宰相，他本是范阳（今北京西南）望族卢氏之后，因祖父卢惁任灵昌（今河南滑县西南）县县令，卢怀慎出生于灵昌，便将他列为灵昌人。卢怀慎生前虽有“伴食宰相”的贬称，身后却享受崇高的礼遇，并为后人所尊，因为他虽官至宰相，家中却一贫如洗，在位期间，又能举贤荐能，正直敢言。

怀慎年轻时廉洁谨慎而又非常聪明。他父亲的朋友监察御史韩思彦曾夸奖怀慎说：“这个小孩儿将来肯定能成大器！”

卢怀慎阅读很多诸子百家之书，精通《诗》《书》，尤其精通历史，20岁中进士，历任监察御史、吏部员外郎。中宗神龙元年（705年），任右御史台中丞。卢怀慎擅长吏道，唐中宗景龙年间，在管理地方官吏方面提出许多合理化建议。他给中宗上疏，陈述时政的得失：地方官吏要有一定的任期。现在，地方官员在位多者一二年，少者三五月，还没有作出政绩，就调离或升迁，而不论政绩。这样就使没有迁官的人倾耳而听，踮足盼望，争相冒进，没有廉耻，还哪有闲暇为陛下宣布风化、抚恤民众呢？礼义不能施行，户口更加流散，仓库日益匾乏，百姓日见凋弊，都因为这个缘故。民众知道官吏任职不长，便不听从他的教导；官吏知道迁官日期不远，也就不竭尽他的气力。地处爵位而偷安，用来养成资历声望，虽然圣明君主有勤劳治理天下的志向，然而侥幸的道路已经开启，上下之间互相欺骗，怎么能尽力做到至公呢？这是国家的弊病。这种弊端长期不整治，国家将会像病入膏肓的人一样不好挽救。他建议：对地方官吏必须定期考核，考核时要注重实绩，尤其要看人民是否安居乐业，社会风气是否端正，地方财政是否充足。对考核成绩优异的官员，可升迁官职增加俸禄；对那些没有政绩、甚至犯罪的人，应免其职务贬为平民，做到赏罚分明。

卢怀慎建议任用年富力强、德才兼备的人。他认为，凡是有才能可以担任地方长官或高级僚佐的人，朝野共知，应该委以重任，让他们在地方上出力，充分发挥其聪明才智,并由朝廷核查他们的政绩；对年龄偏大或身体不好而不能正常处理政务的官吏，应劝其离职养老，使得贤者与不贤者能截然分开。如果委任的地方长官没有治理的才能，不能胜任工作，又欺凌暴虐百姓，就会使平民流亡，或者起事成为盗贼。如果官员不努力工作，不一心为公，仅凭侥幸升官的心理混日子，将会导致浮夸之风、廉耻之行盛行，这种危害是非常严重的。中宗景龙元年（707年），卢怀慎迁升为黄门侍郎，赐爵渔阳县伯。

玄宗开元元年（713年），卢怀慎由黄门侍郎晋升为同紫微黄门平章事，履行宰相职务。四年（716年），兼任吏部尚书。为治国安邦，他日理万机，致使须发早白，积劳成疾。这一年的秋天，卢怀慎的病情一天天严重了，他在弥留之际，上表玄宗：“报国之心，空知自竭；推贤之志，终未克申。……犬马之志，终祈上闻，其鸣也哀，乞求圣察。”竭力推荐宋璟、卢从愿、李杰、李朝隐等四位有治国之才的贤臣，能得到玄宗的重用。玄宗对他的临终奏言一一采纳，并重用他所推荐的贤臣。

卢怀慎为官清廉俭朴，不经营私产。他为官数十年，虽然地位尊贵，但妻子儿女仍然寒冷饥饿，家里的衣服、器物上没有用金玉做的豪华装饰。得到的俸禄赐物，常常毫不吝惜地给予部下、贫民、朋友、亲戚，随给随无，很快散尽，家无余蓄。开元元年，他与侍中魏知古到东都洛阳分掌选举一事，他的随身用具只有一个布袋而已。

开元四年冬天，卢怀慎患病在家，宰相宋璟和吏部尚书卢从愿前往看望，亲眼看见怀慎家铺的席子单薄而破旧、门上没挂帘子，适逢有风雨刮来，举起席子遮挡自己。中午摆饭招待时，也只有两盆蒸大豆、数碗青菜而已。临别时，卢怀慎握着二人的手，强支病体说：“玄宗皇帝急于求得天下大治，但是要使国家长治久安，必须励精图治。如果对勤勉稍有些厌倦，就会有险恶之人乘机被任用了，破坏治国良策，望您二位铭记在心！”十一月底，卢怀慎病逝。到治丧时，家徒四壁，没有留下一丝储蓄，丧事很简陋。玄宗当时将要前往东都，四门博士张星上言说：“卢怀慎忠诚清廉，始终以正直之道处世，对他不给予优厚的赏赐，就不能劝人从善。”于是下诏赐他家织物百段，米粟二百石。次年，唐玄宗校猎经过长安城南，望见卢怀慎家围墙简陋低矮，家人像办什么事，就派使节驰往询问。使节回来报告说是卢怀慎死去二十五个月后的大祥祭祀，玄宗于是赏赐细绢帛，并因此停止了打猎。经过卢怀慎的墓时，见墓地碑表未立，玄宗停马注视，不禁潸然泪下，立即下旨，命官府为卢怀慎立碑，令中书侍郎苏颋撰写碑文，玄宗亲自书写。