Trong thành Nà Lữ có bốn gò đất nổi lên được các triều đại phong kiến đặt tên cho 4 gò là Long, Ly, Quy, Phượng. Giữa thành có ao sen và ruộng bàn cờ. Dưới triều đại phong kiến đền vừa là cung điện, vừa là trung tâm hoạt động kinh tế - văn hoá, quân sự của các vua quan.
Trước Cách mạng Tháng tám và trong kháng chiến chống Pháp, chống Mỹ, đền vua Lê cũng là một di tích lịch sử gắn liền với những hoạt động của Đảng ta trong thời kỳ vận động cách mạng dân tộc, dân chủ. Tại đây đồng chí Hoàng Đình Giong đã đứng ra thành lập “Đoàn thanh niên phản đế” (năm 1936).
Hiện nay, đền Vua Lê được xem là một di tích có giá trị đặc biệt về mặt kiến trúc nghệ thuật và là nơi tập trung lễ hội, sinh hoạt văn hoá, văn nghệ của nhân dân nơi đây. Lễ hội đền vua Lê được tổ chức vào ngày mùng 6 tháng Giêng âm lịch.