徐俌是南直隸鳳陽縣人，也就是現在的安徽省鳳陽市，出生於景泰元年十月二十日的他，是中山王徐達的玄孫，魏國公徐輝祖之曾孫。在天順八年十月，成功承襲魏國公的爵位，食祿五千石。
史書記載，徐俌是當時有名的大孝子，但卻沒有具體記載他究竟是怎麼個孝順法，只是稱他以極孝著稱。
在成化十五年的時候 ，徐俌被任命為南京左軍都督府事，並讓他每年定期去一次孝陵奉祀，足以見得朝廷還是對他這個魏國公還是比較重視的。
到了弘治九年初期的時候，負責守備南京的成國公朱儀去世，明孝宗朱佑樘便讓徐俌去接任他的職務，並執掌南京中軍都督府事。
南京守備在明代向來是一個十分重要的職位，能夠擔當此任的人，都是一些公、侯、伯等高等爵位的人才能擔任。同時還要有侯爵、伯爵或都督等人來充當協同守備。
正常的情況下，守備的地位是要高協同守備的，但是在徐俌上任的時候，協同守備懷柔伯施鑑的地位卻在他的上面，徐俌好歹也是個公爵，而施鑑只是一個伯爵，光是爵位這一方面上，徐俌就比他高了兩等，居然還有出現地位反而不如的情況，真是令人費解。
不管怎麼說，徐俌對於這種情況很是不滿意，便向朝廷提出了自己的抗議，孝宗皇帝朱祐樘也覺得這樣不妥，下令增加了一個新的規定，那就是南京諸守備勳臣以爵位高低為次序。
四年後，由於出現了災異事件，徐俌當心會因此而怪罪到自己的身上，便主動向朝廷提出辭掉自己南京守備的官職。對此孝宗皇帝同意了，但依舊任命其掌南京中軍都督府事。
到了年底的時候，又免去了自己的所有軍職，只需專奉孝陵祭祀就可以了，孝宗皇帝沒有同意，只是讓他改為南京左軍都督府事。
時間來到了正德年間，徐俌多次以年老為由，請求辭官，但武宗皇帝始終認為他是世臣勳舊，在職期間，盡忠職守，做到公廉著聞，所以暫不允許其辭官回家養老。還特意將其加授為太子太傅，目的就是為了留著徐俌的心。
當時正德皇帝朱厚照比較喜歡玩樂，所以他也經常上疏，每每言辭都比較切直，但朱厚照都沒有因此而惱怒，繼續對其很是憂眷，直到正德十二年七月十二日，徐俌才在南京病逝，享年六十八歲。