孝文帝遷都洛陽時，把拓跋鮮卑分成兩部分，一部分遷往洛陽，一部分留在北方。從遷移到洛陽的人中選拔出成為羽林、虎賁的近衛軍。
自打北魏建國以來，拓跋鮮卑一直都是軍隊核心構成，他們是效忠北魏王朝的中堅力量，為了國家的事業拋頭顱、灑熱血。然而，經過孝文帝漢化改革後，上等官職都被皇族和胡漢的貴族所壟斷，而中下階官職也大多被漢人佔據，中下層拓跋鮮卑的生存越來越困難，逐漸被帝國給邊緣化。孝文帝在近衛軍羽林、虎賁中廣泛使用中下層拓跋鮮卑，正是為了安撫這些剛遷居洛陽不久、陷於貧困的中下層人士的不滿情緒，併為他們提供生活保障。此後，孝文帝還大力錄用中下層拓跋鮮卑為文官，但這一為政舉措卻又引發了多數漢人文官不滿，於是雙方暗地裡較勁。
在孝文帝去世二十年之後，孝明帝在位期間，漢人官僚張仲瑀上奏皇帝，建議朝廷改革官員選拔方式，重文抑武，限制武人進入士大夫行列。這裡的武人包涵以拓跋鮮卑為主的羽林、虎賁等。張仲瑀的這份奏章，劍指中下層拓跋鮮卑，這使得本來就很反感漢化改革的他們十分憤慨。
神龜二年（519年），他們聲勢浩大的走上洛陽街頭，一邊為自己發聲，一邊大罵張仲瑀，最後，遊行吶喊變成了暴力襲擊張仲瑀及其家人的行動。上千人來到了尚書省，手持火把，闖進張仲瑀之父張彝府第，將張彝拉出來，一頓羞辱和毒打。隨後又火燒張府，張仲瑀之兄被活活燒死。張仲瑀倖免於難，其父張彝不久重傷死去。
然而，朝廷對於這場暴亂的處理僅僅是處斬了八個主謀，對於其他涉案人員全部赦免，概不論罪。這種息事寧人、草草處理的方式，反映了當時朝廷的無力和法制的鬆散，有識之士從中嗅出了亡國的徵兆。
據史料記載，當時有一位前往洛陽送信的北方懷朔鎮青年，正巧目睹了這場暴動，他看到朝廷因擔心事態擴大而不敢對鬧事者作出相應懲罰，意識到國家如果繼續這樣下去，將來定會大亂。於是他返回家鄉，散盡家財，糾合志同道合之人，為迎接日後的亂世到來做好充足的準備。
他與司馬子如等後來北齊建國的股肱人物聚集在一起。造成南梁從繁榮走向沒落的侯景也是他們其中一員。當被安置到華北的北鎮難民在杜洛周和葛榮的領導下再次叛亂時，高歡一夥人先是投靠杜洛周，此後又投靠葛榮，最終成為爾朱榮的部下。隨後逐漸嶄露頭角，在爾朱榮發動河陰之變時一路同行。爾朱榮被殺後，高歡在與爾朱兆進行繼承權的爭奪中勝出。自此以後，高歡權傾朝野，控制北魏朝政。