玄武門之變後，有人向秦王李世民告發，東宮有個官員，名叫魏徵，曾經參加過李密和竇建德的起義軍，李密和竇建德失敗之後，魏徵到了長安，在太子建成手下幹過事，還曾經勸說建成殺害秦王。

秦王聽了，立刻派人把魏徵找來。

魏徵見了秦王，秦王板起臉問他說：「你為什麼在我們兄弟中挑撥離間？」

左右的大臣聽秦王這樣發問，以為是要算魏徵的老賬，都替魏徵捏了一把汗。但是魏徵卻神態自若，不慌不忙地回答說：「可惜那時候太子沒聽我的話。要不然，也不會發生這樣的事了。」

秦王聽了，覺得魏徵說話直爽，很有膽識，不但沒責怪魏徵，反而和顏悅色地說：「這已經是過去的事，就不用再提了。」

唐太宗即位以後，把魏徵提拔為諫議大夫（官名），還選用了一批建成、元吉手下的人做官。原來秦王府的官員都不服氣，背後嘀咕說：「我們跟著皇上多少年。現在皇上封官拜爵，反而讓東宮、齊王府的人先沾了光，這算什麼規矩？」

宰相房玄齡把這番話告訴了唐太宗。唐太宗笑著說：「朝廷設定官員，為的是治理國家，應該選拔賢才，怎麼能拿關係來作選人的標準呢。如果新來的人有才能，老的沒有才能，就不能排斥新的，任用老的啊！」

大家聽了，才沒有話說。

唐太宗不記舊恨，選用人才，而且鼓勵大臣們把意見當面說出來。在他的鼓勵之下，大臣們也敢於說話了。特別是魏徵，對朝廷大事，都想得很周到，有什麼意見就在唐太宗面前直說。唐太宗也特別信任他，常常把他召進內宮，聽取他的意見。

有一次，唐太宗問魏徵說：「歷史上的人君，為什麼有的人明智，有的人昏庸？」

魏徵說：「多聽聽各方面的意見，就明智；只聽單方面的話，就昏庸（文言是‘兼聽則明，偏聽則暗’）。」他還舉了歷史上堯、舜和秦二世、梁武帝、隋煬帝等例子，說：「治理天下的人君如果能夠採納下面的意見，那末下情就能上達，他的親信要想矇蔽也矇蔽不了。」

唐太宗連連點頭說：「你說得多好啊！」

又有一天，唐太宗讀完隋煬帝的文集，跟左右大臣說：「我看隋煬帝這個人，學問淵博，也懂得堯、舜好，桀、紂不好，為什麼幹出事來這麼荒唐？」

魏徵介面說：「一個皇帝光靠聰明淵博不行，還應該虛心傾聽臣子的意見。隋煬帝自以為才高，驕傲自信，說的是堯舜的話，乾的是桀紂的事，到後來糊里糊塗，就自取滅亡了。」唐太宗聽了，感觸很深，嘆了口氣說：「唉，過去的教訓，就是我們的老師啊！」