Đình và đền Kim Liên (hay còn gọi là đền Cao Sơn) là trấn phía Nam trong tứ trấn của kinh thành Thăng Long. Đền vốn được lập nên để thờ Cao Sơn Đại Vương (theo tín ngưỡng dân gian, thì đây là một người con của Lạc Long Quân và Âu Cơ). Theo tài liệu lưu giữ tại đền, đền này được xây dựng dưới thời vua Lý Thái Tổ ngay khi Hoàng đế rời đô tới Thăng Long với mục đích để bảo vệ kinh thành mới ở hướng Nam.
Đình mang uy danh của thần Cao Sơn nên lễ hội rất náo nhiệt. Trước đây, lễ hội đình Kim Liên thường diễn ra từ ngày 11/3 đến 16/3 âm lịch nhưng nay chỉ gói gọn trong hai ngày 15 - 16/3 và lễ hội chính là ngày 16 tháng 3 âm lịch hàng năm (ngày sinh của Thần), sau giỗ tổ Hùng Vương. Ngoài lễ chính còn các lễ Sóc Vọng hàng tháng, lễ Kỳ An và lễ hoá vào ngày 12 tháng 8.
Những ngày này rất tưng bừng. Sáng ngày 15 diễn ra hội cắt tóc với các tay thợ trẻ vào cuộc đua tài trước sự "giám sát" kỹ lưỡng và công bằng của một ban giám khảo toàn các bậc cao niên có uy tín và tay nghề trong làng. Trống điểm ba hồi, các anh thợ trẻ dong gương ghế "vào xới" khoe tài. Từ cách choàng khăn đến cách cầm kéo, khua kéo, những đường cắt tỉa... và sau cùng là thời gian để hoàn thành một kiểu đầu đều được chấm điểm một cách tỉ mỉ. Bởi làng Kim Liên này xưa nay vẫn nổi tiếng với những "tay thợ" vừa cắt tóc, vừa múa kéo như một thứ nghệ thuật với những tiếng lách cách đều đặn và vui tai, cả cách quàng khăn đúng theo chiều gió vừa để giữ gìn sức khoẻ cho người cắt tóc, vừa thể hiện phong cách diệu nghệ và cũng để quảng bá và phát triển một làng nghề truyền thống của người Hà Nội. Sau cuộc thi là các trò chơi đẩy gậy, đập niêu… buổi tối là liên hoan ca múa nhạc.
Trong ngày chính hội (16/3), 6 giờ sáng người làng đã làm lễ Tế ở chính điện. Các bậc "bô lão" trong đội tế nam của làng thành kính đứng trước sân đình Tế Cáo với Thượng Đẳng thần Cao Sơn Đại Vương, "mở lối đi linh thiêng" để người dân bước vào ngày chính hội 16/3 âm lịch cùng những đại lễ bái rất bài bản của đội tế lễ mũ mão cân đai chỉnh tề. Vang vọng và linh thiêng còn ở tiếng thỉnh chiêng trống dứt khoát và "nặng cái tâm"... Sau đó lễ dâng hương kính cẩn diễn ra trước sân đình, rồi các dòng họ dâng những mâm cỗ cầu kỳ tái hiện ẩm thực của người Hà Nội. Đã từng có những mâm cỗ 7 tầng chất ngất, đẹp như một tác phẩm nghệ thuật nhưng mang đầy đủ ý nghĩa của mối giao hoà giữa con người và trời đất, có những mâm cỗ "khắc" ông Lã Vọng áo tơi nón lá ngồi câu cá bên bờ ao mà tất cả chỉ bằng xôi và gà...
Để làm được mâm cỗ ấy, người ta phải cầu kỳ chuẩn bị cả tháng trời. Tiếp sau đó là lễ rước với 4 kiệu: kiệu Long đình, kiệu ông, kiệu bà và kiệu võng, người dân theo địa phận của làng đi từ phố Kim Hoa đến Đào Duy Anh rồi trở về đình Kim Liên tạo nên một hình ảnh rất đẹp.
Trong lễ hội đình và đền Kim Liên còn có nhiều trò chơi truyền thống như: chọi chim, cờ người, bóng bàn, thi đấu võ thuật thu hút đông đảo nhân dân trong và ngoài vùng tham gia.