牛頭法融禪師，俗姓韋，潤州延陵人（今江蘇鎮江市）。法融禪師十九時，便學通經史，不久開始閱讀大般若經，對般若真空之旨，有所悟人。他曾感嘆道：「儒道世典，非究竟法。般若正觀，出世舟航。」於是產生了出家的念頭，後隱居於茅山，依三論宗學者炅（jiong）法師落髮，並從他學習般若三論（《中論》、《百論》、《十二門論》）和禪定。
二十年後，法融禪師離開了茅山，在牛頭山（今南京市中華門外）幽棲寺北岩下的一個石室中專習禪定。他的禪定功夫很好，有很多靈異之事。原來這一帶經常有老虎出沒，連樵夫們都不敢從這裡經過。自從法融禪師入住後，再也沒有老虎了。有一天，法融禪師正在打坐，突然來了一條丈餘長的大蟒，目如星火，舉頭揚威。那蟒在石室的洞口呆了一天一夜，見法融禪師沒有任何動靜，於是就自動走開了。更為奇特的是，經常有群鹿伏在石室的門口，聽他講經，甚至還有百鳥銜花來供養他。
貞觀年間，四祖道信禪師正在蘄州黃梅雙峰山弘法。有一段時間，四祖經常遙望金陵一帶，發現那兒紫氣繚繞，知道必定有奇異之士在那兒修行，於是親自前往尋訪。
一天，四祖來到幽棲寺，問寺院裡的僧人道：「此間有道人否？」
那位僧人不耐煩地回答道：「出家兒那（哪）個不是道人？」
四祖反問道：「阿那（哪）個是道人？」
被四祖這一喝問，那僧無言以對。
這時，別外有一位僧人出來，告訴四祖：「此去山中十里許，有一懶融，見人不起，亦不合掌，莫是道人麼（離這兒十多里路的深山裡面，有個叫懶融的禪師，終日坐禪，見有人來，既不合拿問訊，更不起來接待。莫非他是個道人）？」
四祖聽了，於是策杖入山，來到石室跟前，只見懶融禪師正在打坐，神情自若，目不他顧。
四祖於是問道：「在此作甚麼？」
懶融禪師回答說：「觀心。」
四祖又問：「觀是何人？心是何物？」
懶融禪師一下子被問得無言以對。於是便站起來，向四祖作禮，並非常客氣地問道：「大德高棲何所？」
四祖道：「貧道不決所止，或東或西。」
懶融禪師問：「還識道信禪師否？」
四祖道：「何以問他？」
懶融禪師道：「向德滋久，冀一禮謁（我仰慕這位大德很久，希望能有機會前往禮拜參訪）。」
四祖道：「道信禪師，貧道是也。」
懶融禪師非常驚喜，問道：「因何降此？」
四祖道：「特來相訪，莫更有宴息之處否？」
懶融禪師於是指了指屋後，說道：「別有小庵」。
說完，便引四祖來到小庵前面。四祖發現，庵的四週盡是虎狼之類，於是，順勢舉起兩手掩面，作出害怕的樣子。
懶融禪師道：「猶有這個在。」懶融禪師的意思是說，沒有想到你這位大名鼎鼎的祖師，還有恐怖心或者說執相的心在。
四祖反問道：「這個是甚麼？」四祖的意思是想提醒懶融禪師注意當下，看看現前一念究竟是個什麼？
懶融禪師於是默然無語。
過了一會兒，四祖在懶融禪師打坐的石頭上寫了一個「佛」字。懶融禪師見了，心裡畏怕，不敢上坐。
四祖趁機點撥道：「猶有這個在。」四祖的意思是說，你學佛那麼久，還沒有達到無相的境界，還有佛相在。
懶融禪師不明白箇中的妙旨，於是向四祖頂禮，並請他宣說法要。
四祖道：「夫百千法門，同歸方寸；河沙妙德，總在心源。一切戒門、定門、慧門、神通變化，悉自具足，不離汝心。一切煩惱業障，本來空寂。一切因果，皆如夢幻。無三界可出，無菩提可求。人與非人，性相平等。大道虛曠。絕思絕慮。如是之法，汝今已得，更無闕少，與佛何殊？更無別法，汝但任心自在，莫作觀行，亦莫澄心，莫起貪嗔，莫懷愁慮，蕩蕩無礙，任意縱橫，不作諸善，不作諸惡，行住坐臥，觸目遇緣，總是佛之妙用。快樂無憂，故名為佛。」
懶融禪師問：「心既具足，何者是佛？何者是心？」
四祖回答道：「非心不問佛，問佛非不心（離開了心，不要談佛；談佛，不能離開心；心即是佛，佛即是心）。」
懶融禪師問：「既不許作觀行，於境起時，心如何對治（既不許作染淨、善惡等二邊分別觀照，那麼請問，當境界起來的時候，如何用心對治）？」
四祖道：「境緣無好丑，好丑起於心。心若不強名，妄情從何起？妄情既不起，真心任遍知。汝但隨心自在，無復對治，即名常住法身，無有變異。吾受璨大師頓教法門，今付於汝。汝今諦受吾言，只住此山。向後當有五人達者，紹汝玄化。」
四祖這段話的主要意思是，一切好丑善惡等二邊差別，完全是心的妄想分別所致，並不是實有。只要我們的心一落入二邊分別，我們就會產生取捨心理，作種種對治，而這恰好是跟解脫之道相違背的。因此觀心的最要緊處，就是要作平等觀，不取不捨。這種平等觀源於對諸法性空的體認。
四祖將祖師禪的頓教法門傳給法融禪師之後，隨即返回了黃梅雙峰山，再也沒有出來過。從此以後，牛頭法融禪師的法席大盛，學者雲集。法融禪師因此而被尊為牛頭宗的初祖。顯慶二年（657），法融禪師入寂於江寧建初寺，春秋六十有四。
牛頭禪師接引人的方式比較平實，多從教下入手。《五燈會元》卷二記載了牛頭禪師接引學人的部分法語。此外，《景德傳燈錄》還收錄了牛頭禪師的《心銘》。這是一篇非常有價值的修行指南。不知道什麼原因，千百年來，卻並沒有得到人們的重視。除了《景德傳燈錄》將它收入之外，其它的燈錄幾乎是隻字不提。這是非常可惜的。在某種意義上講，它跟三祖的《信心銘》有異曲同工之妙，只不過它比《信心銘》要冗長些罷了，也許這正是它被人忽視的真正原因。