曾在私立學校教授音樂的老師馬修跌入人生低谷，被調到專為問題兒童設立的學校“池塘之底”當學監，迎接馬修的學校管理員剛把他帶到學校，就被學生的惡作劇傷到眼睛出血。威嚴刻薄的校長哈森見狀，立即召集所有學生集合並嚴懲，這正是校長一直採取的行動與反應的處理方式：出了事就要迅速懲罰，但孩子們絲毫不把這樣的懲罰放在眼裡，罰地越兇，鬧得越歡，所以他們也不會放過新來的馬修，第一堂課就用惡作劇獻上了歡迎大禮。
但馬修從來沒有在校長面前拆穿孩子們，相反他在保護孩子的同時，還在他們身上看到了別的老師都沒看到的東西。被壓抑的童真，嚮往自由的眼神，還有那股隱藏在心底對音樂的熱愛。是的，哪怕來到了“池塘之底”，馬修都沒有放棄熱愛音樂，每天堅持做曲。而現在他發現了自己和孩子們有了共同熱愛的東西。馬修便決定建立合唱班，慢慢的透過這座名為音樂的溝通橋樑。
馬修逐漸瞭解了自己的學生，讓他們在合適的位置發揮作用，哪怕是天真可愛，卻不會唱歌的佩皮諾，馬修也讓他擔任副指揮，參與到合唱班來，之後馬修得知佩皮諾的父母在二戰中去世，成為孤兒的他卻不想接受事實。一直認為爸爸會在週六來接他。
還有被其他老師戲稱有一副天使面龐和魔鬼心腸的莫朗傑，其實只是有些孤獨自閉，但莫朗傑卻有個很愛她的單身媽媽和天籟般的嗓音，怎麼激發他的能力是馬修面對的難題。在馬修的努力下，莫朗傑和母親的關係被慢慢修復。最後莫朗傑帶著自己的好嗓音加入合唱版，接受馬修的精心的培育。
這時學校接受了一位新生蒙東，和其他調皮的孩子相比，蒙東就是惡棍。因為長期被暴力教育，他早已遮蔽了外界的關愛，還嚴重威脅到了合唱班的生活。秉承行動與反應的校長對他拳腳相加，只能讓情況越來越糟糕，馬修則不同，他的寬容與溫柔讓孩子們願意和他做朋友。
隨著莫朗傑的快速成長，合唱班飛速進步，傷愈歸來的管理員老師還把合唱班寫到信裡，告訴了慈善基金會。一週以後，伯爵夫人會來聆聽合唱班的表演。而就在這時，莫朗傑發現了馬修對母親的愛戀之情。憤怒的他向馬修潑了墨水，令母親失望透頂。馬修卻沒有當即懲罰莫朗傑，反倒是按住了莫朗傑母親的怒火。還熱心建議他，送莫朗傑去音樂學院，不要埋沒他的才能。
待人寬容，但也要賞罰分明。回到學校後的馬修將合唱中所有莫朗傑的獨唱部分刪除，將天才打入了冷宮。被冷落的莫朗傑憤怒離場，再也沒有參與合唱，直到一週後的表演。馬修照常忽視了目光兇惡的莫朗傑，輕揮手指，開始表演。儘管伯爵夫人坐在面前，馬修與孩子們卻毫不緊張，因為只要歌聲響起，這個世界就只剩下的他們。就連被安排舉譜的孩子都開始忘情歌唱。池塘之底的師生用音樂這門語言訴說著屬於他們的共鳴。但是還少了一個人。所以馬修停下了，他轉頭看向莫朗傑，做出了邀請的動作。這時全場寂靜，莫朗傑目光裡的嫉恨瞬間消失，他挺直身軀，立刻做好了準備，是的，就差他了，而現在他來了。
天堂的聲音，踏著馬修的節拍，降臨人間，千言萬語全融在了歌聲與教會的眼神。馬修感受到了莫朗傑被寬恕活的快樂與發自內心的感激。演出成功打動了伯爵夫人，慈善基金即將批下，但校長卻將合唱班的功勞攬到自己身上，並趕往裡昂尋求晉升機會與勳章，但一通電話又將他支了回來，因為蒙東的復仇之火燒掉了學生的宿舍，到手的榮譽就這樣被燒沒了。
多虧馬修組織孩子們外出遊玩逃過一劫，但惱羞成怒的校長卻因為馬修沒有看好校園將其開除，並規定不能和學生道別。馬修只得獨自離開池塘之底。而當他走過教室時，窗子裡飄出了無數只紙飛機，上面寫著孩子們留下的告別語，歌聲也在這時響起。馬修看著飛機上的留言，開心地笑了，誰能想到當初來到最差學校的他，卻收穫了這個世界上最可愛的學生呢。望著窗外孩子們感動的小手，馬修微笑離開。這一刻，他是世界上最幸福的人。
《放牛班的春天》是一部純淨電影，沒有華麗的外表和特效，只有簡單流暢的故事。與校長的“行動與反應”相比，馬修選擇了順應孩子的天性，給予正確的引導。透過組建合唱團、作曲作詞，讓孩子們可以有釋放心靈、唱出希望的出口。馬修走後，老師們共同揭發了校長，然後校長被開除了。莫朗傑也離開了，被母親送到里昂音樂學院，最後成為一名著名的音樂家。
但他從來不知道馬修是第一個幫助自己規劃生活的人。直到50年後，因為母親去世，回到家時遇到佩皮諾才知道一切。後來，當馬修離開“池塘之底”時，佩皮諾要和他一起走，從此陪伴著一直教授音樂的馬修度過餘生。那一天正好是星期六。