近日江西吉水縣發現一處距今5000年的史前遺址，這為江西地區的歷史研究，乃至中華文明的發源都起到了極大的促進作用 。其實江西的文明歷史最早可追溯至距今一萬年以前，如江西萬年縣發現的仙人洞遺址，就發掘了許多人類使用的石質工具。
從石器時代進入青銅時代後，江西地區也逐漸形成大範圍的部落群體，如邗越、百越等部落都在長江中下游以及鄱陽湖一帶定居。至商代時期江西青銅器的發展水平更是不落與中原地區，而春秋吳、越、楚三國更是為了爭奪江西而戰爭頻發。
至秦始皇統一六國後，於全國設立36個郡縣，其中九江郡便是江西最早的行政建制，其後千餘年曆朝歷代雖改州、改道、改路、但江西的行政管轄範圍大體不變，一直到元朝的建立行中省時，江西的行政範圍發生因此極大的變化。
行省制度的誕生一直影響至今，現如今我國的一級行政單位也是以省為名，行省制度最早源於金朝時期，但正式形成完整的制度體系還是在元世祖忽必烈手中 。在元以前，宋朝改制唐朝的江南西道為江南西路，行政範圍大致相同。至元世祖時，於各大地域建立行中書省，如江南西路就先併入福建行省，後將福建行省拆分為江西行省與江浙行省。
但即使如此，被拆分的江西行省仍包含江南西路與廣南東路，所轄地域包括今天江西大部、廣東大部、湖南區域性等地域，可以說是一個相當大省份。
我們知道元朝作為蒙古帝國分裂出來的一部分，其領土疆域為歷代王朝之最，多達兩千餘萬平方公里的土地範圍。但就是如此廣闊的疆域，包括嶺北廣闊地域範圍卻僅僅設立了10個行省，也就是說每一個行省的行政範圍都十分廣闊。
如此大的疆域範圍緣由是出於宋唐以前，各地以山川走勢作為一級行政單位區域劃分的標準時，雖然方便地方管理，但也極易為地方割據提供地理上的便利。
行中書省的確立便是為了加強中央皇權，因此，元朝以大而廣的地理範圍直接打破以往的地理界限、經濟發展格局，隨意將原本和諧的地理環境，人文環境，社會環境等任意拼湊，形成“犬牙交錯”及“以北治南”的格局
因此我們能看到湖廣行省、江西行省、江浙行省，都是在超出以往行政範圍的基礎上極度擴張，而後將行政首府設立在位於北部的武昌、南昌、揚州等城市，從而使各省長官都無天險可守，更容易被中央所鉗制。
更重要的是，那麼大的行省雖然方便了中央對地方的管理，但相對應的皇權也一定程度被削弱了，中央無法第一時間知曉那些山高水遠地區的情況，這也造成元朝叛亂多發且難以平定的根源。而且為了限制行省長官割據，對其職務亦進行大刀闊斧的改制，使得行省長官的正常的行政許可權大大削弱，加之管理面積太大，疆域內的經濟實在難以發展，更別提提高民眾的生活水平了。
行省制度本身是一項相當具有優勢地方管理制度，否則也不會延續至今（關於行省制對元朝的作用，這個在以後做專門作出詳細介紹）。但出於制度建立初期，許多方面仍有些許粗糙，加之元朝在制度管理上的鬆懈，雖然忽必烈對行省制度多有改革，過大的行省也多次拆分，令其逐漸完備，但仍然趕不上元朝統治者腐朽的速度。
在重重弊端的積累下，元朝最終還是崩潰，當然行省制度相比於以往的郡縣、州牧及衍生的行政制度都有極大的進步，否則朱元璋在建立明朝後，為何會依舊採取行省制，只是對行省的轄區的設定吸取元朝的教訓多有變動。
在沒有嶺北行省的情況下也設立了15個省，而江西行省、江浙行省，也分別拆分為江西廣東、福建浙江等省份，這也逐漸奠定清朝的，乃至當今的省級行政區域劃分的基礎。