Quê quán và gốc gác của Sư vốn không ai biết rõ ràng ở đâu. Chỉ biết rằng, lúc Sư đến gặp Nhị Tổ Huệ Khả là với hình thức cư sĩ, mắc bệnh phong hủi đến gặp Tổ cầu xin sám tội:
– Đệ tử mang bệnh ghẻ lỡ đầy mình xin Thầy từ bi sám tội cho.
Tổ Huệ Khả bảo:
– Ông đem tội ra đây, ta sẽ sám cho ông.
Sư đứng sững giây lâu, thưa:
– Đệ tử tìm tội không thể được.
Tổ Huệ Khả bảo:
– Ta đã sám tội cho ông rồi. Song ông nên nương tựa Phật Pháp Tăng.
Sư thưa:
– Nay đây đệ tử thấy Thầy thì đã biết được Tăng, còn chẳng biết thế nào là Phật và Pháp?
Tổ Huệ Khả bảo:
– Chính tâm ấy là Phật, tâm ấy là Pháp, Phật pháp không hai, ông có biết chăng?
Sư thưa:
– Nay đệ tử mới biết tánh tội không ở trong, không ở ngoài, chẳng phải khoảng giữa; tội như vậy, tâm cũng vậy, Phật Pháp chính thật không hai.
Tổ Huệ Khả nghe nói vui vẻ, cho cạo tóc xuất gia, bảo:
– Ông chính là vật báu của ta, nên đặt tên Tăng Xán.