三祖寺西涧，有大石如牛眠，周围环崖如洞，幽泉潺潺，故名。黄庭坚曾在此筑室读书，大画家李公麟画有其 坐石 牛像，宋仁宗皇佑中，王安石游其处有诗刻.

“石牛古洞”、“山谷流泉”均為潛陽十景，存有唐、宋、明、清石刻百餘處。石牛古洞的詩文題刻，有的字大如鬥，有的字小如盅；有的鐫鑿於百尺峭壁之上，有的雕刻於幽邃洞岩之中。從體裁上看，詩、歌、賦、銘，文體齊備；字形上分楷、行、隸、篆、草書俱全。刻石方法陰陽兼有，方圓相濟。從石刻年代上看，唐、宋、元、明、清、民國、直到現代，每個朝代都有，少則2方，多則109方，沒有斷代。

北宋詩人、書法家黃庭堅于元豐三年（1080年）赴任吉州泰和縣（今江西泰和）途中，經舒州，游三祖山、山谷寺與石牛古洞，樂其林泉之勝，常坐石上讀書，自號“山谷道人”

北宋著名的政治家王安石于皇佑三年（1051年）任舒州通判，這年秋天視察州屬各地，途中游三祖寺與石牛古洞，留下題刻記其事：“皇佑三年九月十六日，自州之太湖，過寺宿，與道人文銑、弟安國擁火遊。見李翱習之書。坐石聽泉久之。明日複遊。刻習之後。”他還在泉邊石上刻詩“水無心而宛轉，山有色而環圍，窮幽深而不盡，坐石上以忘歸。”