其實空城計作為一種軍事謀略在很早之前就有。據說春秋時期，楚國公子元，在他哥哥楚文王死後，非常想要佔領漂亮的嫂子。為了討文夫人的歡心，他率車五百攻打鄭國。這時候有個叫叔詹的鄭國大臣獻策，命令士兵全部埋伏起來，不讓敵人看見一兵一卒，擺出完全不設防的樣子。公子元看到這種情況，以為有埋伏，就撤兵了。在《三國演義》中有一段諸葛亮也使用“空城計”嚇退了司馬懿的情節。
蜀國丞相諸葛亮錯用了馬謖，失去街亭後，只有2500名將士駐守在西城縣。忽然，哨兵飛馬來報：司馬懿帶領15萬大軍，往西城蜂擁而來。此時諸葛亮身邊已經沒有一員大將，只有一班文官，眾官員聽到這個訊息，嚇得驚慌失措。諸葛亮登上城樓一看，果然魏軍正兵分兩路往西城縣殺來。
諸葛亮下令將軍旗全部藏起來，士兵們各守衛在巡哨的崗棚，如有隨便出入城門或者是高聲講話的一律斬首。最後安排將士大開城門，他要唱一出空城計。只見諸葛亮把琴放在了城樓上，自己氣定神閒的談起了琴，看起來就像什麼事都沒有發生過一樣。還特意安排4個將士扮成老百姓的模樣，在城門下掃地。很多人應該會有一個共同的疑問，諸葛亮為什麼安排4個人在城門下掃地這一假象呢？
魏軍前哨看到此番景象立馬將這個訊息告訴了司馬懿。司馬懿立刻命令軍隊停止前進，自己前去探望一下。司馬懿果然看到諸葛亮正在城樓上，笑容可掬，焚香撫琴。城門內外，只有4個人低頭打掃。司馬懿看後懷疑城中有重兵，連忙指揮軍隊撤退。
諸葛亮對司馬懿可以是十分的瞭解，不然他也不敢冒這個險，司馬懿來到城門下沒有看到士兵，只看到百姓旁若無人的掃地，以司馬懿的性格肯定會懷疑諸葛亮設下了埋伏。再加上百姓掃地的時候，地上的灰塵會都飛起來，這樣司馬懿也不能看的太清楚城內的情況。司馬懿料定諸葛亮平生謹慎，從來不幹冒險的事情，見到百姓和諸葛亮都這麼鎮定，懷疑有重病埋伏，所以才會讓15萬精兵強將退去的。
諸葛亮的這出空城計讓蜀國沒有費一兵一卒就把司馬懿的15萬大軍退下了，如果當時諸葛亮帶著2500人棄城逃跑，司馬懿定會追殺過來，導致全軍覆沒的結果。