中國有8000年以上使用玉器的歷史，內蒙古赤峰市興隆窪文化遺址、遼寧阜新查海文化遺址，出土有8000年前的玉器，作品相當成熟，已經過了很長的發展階段。從玉器的情況看，當時人們在材料選擇上，早已脫離了玉石不分的狀態，可把玉與石嚴格的區分開。
【第一階段——新石器時代】
新石器時代是玉器發展的成熟期。東北地區的紅山文化、山東地區的大汶口——龍山文化、長江下游的良渚文化、江漢地區的石家河文化、西部的齊家文化及其他新石器文化，都廣泛地使用了玉器。良渚文化遺址，出土玉器數千件，規模巨大，內容豐富，樣式繁多。這一時期各原始文化的玉器有自身發展的獨立性，也有相互間的影響及交流。玉器的使用方式各種各樣，其中三方面內容表現的最為明顯：一、玉與古代神靈，卜筮。二、玉與祭祀活動。三、玉與人的人身裝飾，這三方面的內容一直影響到對後世的玉器使用。
在新石器時代，以玉通神、以玉卜筮表現的尤為明顯。古人認為玉是自然界的精華，應用來事神，可與神相通；早期巫祝的法器，多以用玉為之。故宮博物院藏安徽含山縣凌家灘出土玉龜甲與玉板組合，玉版上有圖案，夾於龜背甲與腹甲間，應是巫師通神卜筮兇吉的法器。
【第二階段——商與西周時期】
商與西周時期，是中國玉器發展的第二階段。玉器的使用更加制度化，出現了較為一致的玉器製造風格和較為統一的玉器使用方式。薄片玉器的大量使用與長線條的裝飾花紋應是這一時期玉器的主要特點，禮儀用玉在這一時期玉器中佔有重要位置。對此，古文獻及金文中多有記載，這也是歷來研究者所關注的重點。
玉器與古人禮儀活動關係密切，人們把同禮儀活動有關的玉器稱為玉禮器。所謂禮，應指制度、方法；《淮南子·齊俗訓·注》記載：“禮、體也。”《爾雅·釋言》載：“履，禮也。”也就是說，禮、體、履相通，是制度、體制、方法的表現，玉禮器便是禮制活動中使用的玉器。《周禮》記述了祭祀天地四方中使用玉器的情況：“以玉做六器，以禮天地四方。”六器是指璧、琮、圭、璋、璜、琥，除文獻記載外，考古發掘中也發現出大量禮儀用玉的實物。對於這幾種玉器的形狀，古文獻中多有解釋。《白虎通》對此有所歸納：“禮曰：‘天子珪尺有二寸。’又曰：‘博三寸，刻上，左右各半，厚半寸。‘半珪為璋，方中圓外曰璧，半璧曰璜，圓中牙外曰琮。”對五種玉器的形狀進行了說明，所謂“刻”，《說文》釋為“銳利也”，因此長且寬，上部銳利的玉器為圭，璋為圭的一半，也是條狀片形玉，璧、璜、琮似皆為片狀器，且與環形有關；所謂“方中”、“半璧”、“牙外”，是作品間的區別；對於玉琥的形狀，漢以前的文獻中無明確記載，從商周遺址的考古發掘中可以看到，雖然玉禮器的出土已有較大數量，但完全相同的作品非常稀少，因而此時的玉器使用、玉禮器的使用各有器名的具體儀規；而對器物形狀、裝飾、尺寸的要求，並不嚴格。
【春秋戰國至漢代】
春秋戰國至漢代的玉器中，佩玉最引人注目，屬於禮器的圭、璧、璜應是極少數的，所見玉器中多數為佩玉。最初的佩玉，見於新石器時代，一些作品又影響到商、周時期，如龍形觿、玉璜等。佩玉的含義十分複雜，不同身份的人所佩之玉表現的內容也不同。或表現人的身份，或用於實際，又有表示富有和美化人身的作用。《詩·衛風·芄蘭》有“芄蘭之支，童子佩觿”，“芄蘭之葉、童子佩諜”之句。觿是錐形器，諜是筒形器，為射箭的工具。佩觿表示能解決疑難，佩諜表示能決斷。目前我們能看到的兩種器物的早期作品，都為玉製。
春秋戰國以後，佩玉的一個重要含義，就是用玉表示人們的道德修養。人們注意道德修養是經濟發展的產物，也是社會進步的表現。孔子代表的儒家學說，提出了修身、齊家、治國、平天下的主張，強調人的學習與修養，同時把佩玉做為道德修養的一個方面。《禮記》是孔門弟子記錄孔子言行的語錄，《聘義》記錄了孔子的一段話：子貢：敢問：“君子貴玉賤者何也，為玉之寡而碈之多輿？”孔子曰：“非為碈之多故賤之也，玉之寡故貴之也，夫昔者君子比德於玉焉，溫潤而澤、仁也……詩云‘言念君子，溫其如玉’，故君子貴之也。”孔子講，君子貴玉而賤碈，並不是因子玉少多，而是因為君子比德於玉，用玉來表示自己的品德。君子是少數人，用佩玉表示品德的人也是少數。不同的人有不同的用玉目的，這些佩玉習俗，推動了玉器的發展。春秋戰國時期的玉器有幾個明顯特點，一是龍、璜、環等佩帶類玉器佔有相當大的比例；二是玉器製造精美，講究造型的變化，紋飾的精緻，光澤的溫潤；三是對玉材的選擇更加嚴格，主要玉料為透閃石玉及蛇紋石玉料。
這一時期玉器的花紋，主要為兩部分，一部分為龍、鳳、獸面紋飾，或為紋飾、或為玉器邊緣的裝飾，圖案有較為固定的樣式；另一部分是密佈於器物表面的、排列緊密的谷紋、蒲紋、勾雲紋和蟠虺紋。《周禮》記載：“以玉作六瑞，以等邦國……子執谷璧，男執蒲璧。”所謂六瑞，是六種爵位的人所用的瑞贄，研究者認為戰國秦漢玉璧上凸起而似穀粒的花紋為谷紋，交錯如編席的直線紋為蒲紋。這幾類花紋延續了數百年，為這一時期玉器的代表性裝飾。
在古代，多數朝代實行了厚葬制度，玉器自然成為重要的隨葬品。古人用玉隨葬，一則認為玉能通鬼神，一則認為玉能使屍體不腐。目前考古發掘到的漢代王墓中，出土了大量的漢代隨葬玉器，其中有玉衣、玉塞、玉握、九竅用玉等專門的斂屍用玉；還有隨葬的日用品、佩飾；玉衣的使用，使斂屍用玉發展到了頂點，也標誌著古代用玉體系的沒落。
【唐代以後】
唐代以後，玉器的面貌發生了根本的改變。一方面，傳統的禮器、佩玉改變了面貌，以新的形式出現於世；另一方面大量反映人們生活狀態的作品、日用品成為玉器的主導，人們稱唐以後的這類玉器為市俗玉、平民玉。對於這一現象，明人高濂在《遵生八箋》中講：“自唐以下，所制不一，如管、笛、鳳釵、乳絡、龜、魚、帳墜、方圓細花帶板、燈板、人物、神像、爐、瓶、鉤、鈕、文具、器皿、杖頭、杯、盂、扇墜、梳背、玉冠簪、珂、絛環、刀肥、猿、馬、牛、羊、犬、貓、花朵種種玩物，碾法如刻，細入絲髮，無毫末瑜矩，極盡工緻。”高濂較為清晰地歸納了唐以後玉器品種方面的變化。這一時期，玉器花紋的藝術表現，受到了繪畫及其他工藝品的巨大影響，圖案中極少有谷紋、蒲紋、獸面紋、臥蠶、勾雲、蟠虺，而主要為自然與社會兩種題材。宋代禮樂杯，圖案表現的應是宮廷禮樂活動，構圖則較接近同期的人物畫風格；明代玉器的圖案中還出現了文人畫風格及書法；玉器的藝術表現，出現了嶄新的局面。
【清代的前期與中期】
在清代的前期與中期，宮廷玉器在玉器生產中佔有非常主要的位置。康熙、雍正時期的宮廷玉器，目前能確定的還不算多，但這些作品明顯地表現出了技術上的創新與進步。清宮遺存的雍正款玉器，胎體的厚度均勻及邊線的準確，遠遠超過了明代作品，這一時期玉器加工技術的提高同宮廷金屬器、瓷器等各種工藝品加工技術的提高同時出現，是當時經濟發展的一個標誌。
乾隆朝的宮廷玉器達到了古代玉器生產的頂峰。品種多、數量多、工藝精是其特點，其中的大玉山、大玉瓶、玉屏風、玉編磬等大型玉陳設、樂器，在體積及加工精度上都是前所不及的。乾隆皇帝本人對玉器有所偏愛，並對玉器的製造非常關心，他提倡玉器製造中的仿古，提倡各類工藝品間的相互借鑑，提倡器物造型與樣式的創新，對社會上玉器生產中的時弊提出批評，推動了宮廷玉器乃至當時整個玉器業的發展。
清代內務府造辦處“玉作”及“如意館”組織宮廷玉器的生產。雍正年間選進的玉匠胡德成、鄒學文、鮑友信、王斌、陳宜嘉、姚漢文、姚宗江等，當時叫作南匠。明、清以來蘇州專諸巷是高手玉匠集中的地方。乾隆年間造辦處“玉作”的主要玉匠倪秉南、張象賢、張君光、賈文運、張德紹、蔣均德、顧觀光、金振寰等，都是從蘇州選進的。遇有大件製作，需用更多的人，如《大禹治水圖》玉山，就是由“玉作”的玉匠完成打坯的工序，然後交兩淮鹽政在揚州僱用許多蘇、揚的玉匠集體制造。
故宮博物院收藏有古代玉器三萬多件，是最精美的中國古代玉器群，其中有許多是各個時代的玉器精品，基本上反映了中國玉文化的發展脈絡，從中我們可以看到古人的生活，古人的智慧，古人對玉器的追求。