贞观六年（632年）七月，虞世南向李世民呈上了《圣德论》一文，夸赞了李世民的功绩，唐太宗李世民赐手书诏令给虞世南，说：“你的评价太高了，朕怎么敢与上古帝王相比，只是和近代的一些皇帝相比略强些罢了，再说你也只是刚刚看见开头，还不知道以后是什么样子呢，如果朕真能善始善终，那么你的高论就可以传到后世了，如若不然，朕恐怕只会成为后世的笑柄啊！”虞世南的这篇文章某种程度上对唐太宗李世民起到了一个鞭策的作用，让他警醒自己要做一个善始善终的好皇帝。

贞观七年（633年），虞世南转任秘书监，被赐爵为永兴县子，唐太宗李世民非常器重他的学识，常常在处理军政大事的间隙，召来虞世南在一起谈经论史，虞世南虽然身体瘦弱，一副弱不禁风的样子，但他性情刚烈，对于朝政上的得失，直言敢谏。唐太宗李世民曾对侍臣们说：“朕借闲暇的时间和虞世南商讨古今政事，有一个字的差错，都会惆怅悔恨，他恳切诚挚到这种程度，朕用他用得好啊，如果群臣都能像世南这样，天下还愁有什么不能治理好的呢？”

贞观八年（634年），虞世南被进封为永兴县公，同年，陇右地区山体崩塌，山东及江淮地区多次遭遇大水。唐太宗李世民问发生“天变”的原因是什么，虞世南以晋朝以来历次山崩为例，借机劝谏唐太宗李世民要遵循道德义理，希望太宗不要因为功高而自满，不要因为太平的日子久了就骄傲松懈，要坚持做到始终如一。唐太宗李世民听了虞世南的话后，进行了多次的反省，认为虞世南的这些话对自己有警醒作用。贞观九年（635年），太上皇李渊驾崩，虞世南一再劝阻唐太宗李世民筑造陵墓厚葬太上皇李渊，他还严正劝阻唐太宗李世民不要乐于游猎而疏忽了朝中的政事，虞世南的这些建议对当时的“贞观之治”起到了积极作用。

贞观十二年（638年），虞世南再次上表向唐太宗李世民请求辞官回家养老，唐太宗李世民考虑再三之后允许了，仍授予他银青光禄大夫、弘文馆学士的职位，这一年五月，虞世南在京城长安逝世，享年八十一岁。唐太宗李世民听到虞世南去世的消息后痛哭流涕，为他举哀，并下手诏给魏王李泰说：“虞世南对朕忠心一体，拾遗补阙，实在是当代世的名臣啊，朕有小的失误他都敢犯颜直谏，现在他走了，朝廷上下，就再也没有这样的人了呀！”

虞世南一生经历了陈朝、隋朝、唐朝三个朝代，在三个不同的朝代中都做官被重用，在当时那个战乱纷争的年代里，一般战俘都是要被杀头的，但虞世南前后多次被俘虏，不仅没有被杀，还被授予了官职重用，最后以八十一岁的高龄终老于李唐，他的为人和学识都深受唐太宗李世民的肯定，在做官上他是成功的；同时，虞世南是当时著名的文学家和书法家，他的书法造诣深厚，对中国书法史上的楷书传承和发展作出了重要贡献，在学问上也是成功的。他的代表作《孔子庙堂碑》更是后世学习的范本，对后世的书法爱好者影响深远。