桓彥範，潤州曲阿人。祖父桓法嗣，曾任雍王府諮議參軍、弘文館學士。桓彥範慷慨瀟灑，納言狄仁傑很看重他，對他特殊禮遇，曾對他說：“足下才識如此，一定前程遠大。”不久，他升任監察御史。長安三年，他調任御史中丞。長安四年，他轉任司刑少卿。當時，司僕卿張昌宗因派術士李弘泰占卜他有帝王之分，御史中丞宋璟請拘捕審理，詳盡地講了他的罪過，但武則天不同意判刑。
桓彥範上疏說：“張昌宗無德無才，謬承陛下恩寵，本應當粉身碎骨，報答陛下特殊栽培，竟然包藏禍心，有這樣的占卜！陛下長期施加恩惠，不忍加刑。張宗昌叛逆作亂的罪行很多，這是自己招來的罪過。這是老天爺生怒，並不是陛下有心殺他。違天不祥，乞請陛下裁決。”“君尚在，但是做臣子的卻圖望有天子之分，這就是逆臣。如果不誅，社稷也不會安穩。
當 太子即位，桓彥範因功加授銀青光祿大夫，任納言，賜勳上柱國，封譙國公，賜食邑五百戶。依據新法令，又改任侍中。
臣聞京師到處在傳說，胡僧慧範假託佛教，欺詐迷惑后妃，所以能夠出入宮闈，擾亂時政。陛下又輕騎微服出行，多次到其室，上下褻狎，有損尊嚴。臣曾聽說興旺之理，必由進善；富國安民，莫大棄惡。因此，孔子說：‘左道亂政的人殺，借鬼神害人的殺。’今慧範之罪，與所說的沒有什麼不同。如果不急誅，一定會生亂。除惡務本，去邪不疑。實願陛下，早加裁貶。”桓彥範的這些意見未被採納。
當時，中宗授方士鄭普思為秘書監、葉淨能為國子祭酒，桓彥範苦苦勸告，言其不可。中宗說：“既要用他們，就容不得阻止。”桓彥範又說：“陛下自登上寶位，便馬上宣佈‘軍國政事，皆依貞觀時的制度執行’。昔日貞觀年間，太宗曾用魏徵、虞世南、顏師古為秘書監，孔穎達為國子祭酒。而鄭普思等都是方術庸流之輩，哪裡足以與他們相比。臣擔心人們議論陛下官不擇才，隨隨便便把官職加於私愛。希望陛下要慎重選擇。”中宗也不採納。賜桓彥範姓韋氏，令與皇后同姓， 賜雜彩、錦繡、金銀、鞍馬等。雖然表面上表示優崇，而實際剝奪了他們的實權。易州刺史趙履溫，是桓彥範的妻兄。桓彥範誅張易之後上奏說趙履溫也共謀其事，於是趙履溫被授司農少卿。趙履溫為了感激他，把兩個婢女送給桓彥範。桓彥範免除宰相後，趙履溫又奪回這兩個婢女，被當時議論者譏諷。不久，桓彥範出任洺州刺史，轉任濠州刺史。