Chùa được khởi công năm 1964 và hoàn thành vào năm 1971 do kiến trúc sư Nguyễn Bá Lăng vẽ kiểu.

Một cửa tam quan lớn dẫn vào sân chùa. Ngôi chùa có một tầng lầu và một tầng trệt. tầng trệt có hai phần: phần ngoài, dưới sân thượng, cao 3,20m; phần trong, dưới phật điện cao 4,20m. tầng trệt được chia là nhà thờ tổ, giảng đường, văn phòng, thư viện, lớp học, phòng học, phòng tăng v.v…

Từ dưới sân có ba cầu thang rộng dẫn lên tầng trên. Ở đây có một sân thượng rộng khoảng 10 mét. Phía tay phải có một gác chuông.

Từ sân thượng lên tiếp mấy bậc thềm nữa là tới Bái điện. Bái điện là một tòa nguy nga dài 35m, rộng 22m và cao 15m. Các cột, rui mè và mái ngói đều được đúc bằng bê-tông cốt sắt. Bàn thờ Phật được thiết lập ở Bửu điện: chính giữa thờ Phật Thích Ca, hai bên có Văn Thù Bồ Tát (bên trái Phật Thích Ca ) và Phổ Hiền Bồ Tát (bên phải), một vị chủ về đường trí tuệ, một vị chủ về đường hạnh nguyện. Những công trình chạm khắc gỗ ở đây có bao lam tứ linh, bao lam cửu long và đặc biệt là có các phù điêu trên các hương án chạm các ngôi chùa danh tiếng ở trong nước và một số nước Châu Á.

Ở hàng hiên lối vào Chính điện, mỗi bên có một pho tượng Kim Cương khá lớn.

Toàn thể Phật điện gồm ba lớp: Bái Điện, Bản Điện và Địa Tạng Đường kiến trúc theo kiểu chữ công.

Các góc mái chùa đều uốn cong theo kiểu chùa miền Bắc: mái trước chồng diêm. Chính giữa đỉnh nóc có Bánh xe pháp luân và các góc có hình đầu phượng.

Năm 1982, chùa xây thêm Bảo Tháp Xá Lợi Cộng Đồng.

Chùa Vĩnh Nghiêm là một ngôi chùa mới được xây dựng gần đây nhưng đáng được kể là một công trình kiến trúc Phật giáo độc đáo của Thành phố.