Chùa hướng về ngã ba sông Phượng Nhãn - nơi hợp lưu của sông Thương và sông Lục Nam. Chùa Vĩnh Nghiêm được coi là nơi phát tích Tam Tổ của thiền phái Trúc Lâm.

Khi vua Trần Nhân Tông rời bỏ cung vàng điện ngọc, xuất gia tu hành, ngài đã đến chùa Vĩnh Nghiêm thụ giới, lấy hiệu là Hương Vân Đại Đầu Đà, sáng lập Thiền phái Trúc Lâm Yên Tử, nơi đây trở thành trung tâm Phật giáo thời Trần (thế kỉ XIII).

Chùa hiện lưu giữ được rất nhiều hiện vật quý hiếm, mang đậm những nét đặc trưng của một ngôi chùa cổ Việt Nam.

Chùa được kiến trúc trên một trục, hướng Nam Bắc gồm 5 khối: khối Tam Quan, khối Tam Bảo, nhà thờ Tổ đệ nhất, gác chuông và nhà thờ Tổ đệ nhị, cùng một số công trình khác như hành lang tả vu, hữu vu và khu vườn tháp…

Khối thứ nhất là cổng Tam Quan. Qua chốn Tam Quan này nghĩa là đã bước vào cảnh thiền, bước vào chốn linh thiêng. Khối thứ hai là tòa Tam Bảo với kiến trúc kiểu chữ "Công" gồm Tiền đường, Thượng điện và nhà Thiêu hương.

Khối thứ ba cũng làm theo kiểu chữ Công nhưng thấp và nhỏ hơn. Đây là nhà Tổ đệ nhất thờ ba vị sư tổ sáng lập ra Thiền phái Trúc Lâm. Hiện nay, trong nhà Tổ đệ nhất còn đủ ba tượng Trúc Lâm Tam tổ: trong khám là tượng Hương Vân Trần Nhân Tông, bên ngoài là tượng Pháp Loa và tượng Huyền Quang. Trong này còn có một tấm bia đá rất lớn được khắc từ thời Nguyễn, ghi lại công đức của các vị đã xây dựng chùa và quá trình tu bổ chùa.

Khối thứ tư là gác chuông cao 2 tầng 8 mái, treo một quả chuông lớn. Kiến trúc lầu chuông được kết hợp giữa cấu trúc gỗ và gạch, ở phần giữa có treo những quả chuông đồng nhỏ (chuông gió).

Khối thứ năm, kết cấu kiểu chữ "Đinh" là nhà Tổ đệ nhị thờ Tổ Pháp Loa. Đây là công trình thời Lê - Nguyễn, là nơi an trí tượng, bài vị hoặc ảnh thờ các vị Tổ sư kế tiếp ba vị Tổ sư khai sáng của Thiền phái Trúc Lâm Yên Tử.

Tháng 12-2015, Thủ tướng Chính phủ quyết định xếp hạng chùa là di tích quốc gia đặc biệt, thu hút khách thập phương về chiêm bái cảnh chùa và tìm hiểu nhiều nét văn hóa có giá trị lịch sử quý báu.