Đình Kim Mã mang tên làng cổ Kim Mã - một trong Thập tam trại (13 trại), tương truyền được lập từ thế kỷ 11 ở phía tây của kinh thành Thăng Long. Vào thời Lý - Trần, đất làng Kim Mã được dùng làm nơi nuôi ngựa của Hoàng cung, nên còn gọi là Tầu Mã hay Mã trại. Theo các sắc phong, thần phả của đình để lại thì đình thờ 3 vị Thành hoàng là: Bố Cái Đại Vương, Linh Lang Đại Vương và quan Thái Giám Hoàng Phúc Trung. Các vị thần này đều có liên quan đến các sự kiện lịch sử lớn diễn ra trong vùng.
Bố Cái Đại Vương (tức Phùng Hưng) sinh ngày 5/1/ 761 (25/11 Canh Tý) trong gia đình mấy đời là Hào trưởng quê ở Đường Lâm, Ba Vì, Sơn Tây, Hà Nội. Tương truyền ông có sức khỏe phi thường, vật nổi trâu, đánh được hổ, cõng thuyền nặng đi hàng chục dặm đường. Được mọi người trong vùng mến phục. Vào những năm (766 -779) quyền thống trị nhà Đường ở nước ta do Cao Chính Bình nắm giữ, thi hành chính sách tàn bạo, bóc lột thậm tệ, khiến nhân dân phẫn nộ. Ông cùng hai em là Phùng Hải và Phùng Dĩnh phất cờ khởi nghĩa chống lại, chỉ sau một thời gian ngắn quân sĩ đã lên tới hàng vạn người. Cuộc chiến kéo dài hơn 20 năm, vào năm Ất Hợi (795) đánh tan quân xâm lược, ông lên nắm quyền trị vì được 7 năm. Đến ngày 13 tháng 8 năm Nhâm Ngọ (802) ông mất, con trai là Phùng An nối ngôi, tôn ông lên làm Bố Cái Đại Vương và xây lăng mộ ở phía tây phủ thành Tống Bình, thuộc địa phận làng Kim Mã. Linh Lang Đại Vương (tức Hoàng Lang).
Theo truyền thuyết ông là hoàng tử, con trai thứ 4 của vua Lý Thánh Tông và bà cung phi Cảo Nương. Một lần Cảo Nương đi tắm ở Hồ Tây, bị rồng quấn lấy người sau đó liền mang thai và sinh ra Linh Lang. Khi lớn lên gặp lúc giặc Tống xâm lược bờ cõi ông xin vua cha cấp một cỗ voi và một cây cờ hồng để đi dẹp giặc. Ông dùng cờ lệnh, lệnh cho voi quỳ xuống rồi xông ra trận, cờ lệnh ông chỉ đến đâu giặc tan đến đấy. Với chiến thắng vang dội vua cha muốn nhường ngôi nhưng ông không nhận, ông chỉ thích sống cuộc đời bình dị. Ít lâu sau ông bị bệnh rồi mất. Khi ông mất hóa thành giao long bò xuống hồ Tây rồi biến mất. Vua sót thương bèn sai lập Linh Lang từ (tức đền Voi Phục) nơi Linh Lang hóa và phong thần là Linh Lang Đại Vương. Ông được suy tôn là vị thần trấn giữ, bảo vệ phía tây Kinh Thành Thăng Long. Gần đây, các nhà sử học cho rằng Linh Lang chính là hình ảnh được thần linh hoá của Hoàng tử Hoàng Chân - người đã hi sinh anh dũng trong cuộc kháng chiến chống Tống tại bờ sông Như Nguyệt năm 1076. Quan thái giám Hoàng Phúc Trung (tức Quý Công) sinh ngày 13 tháng 01 năm 1026 (Bính Dần) quê ở làng Lệ Mật. Năm 16 tuổi ông đã được vua Lý Thái Tông (1028 – 1054) vời vào triều làm Giám quan. Trong một lần vãn cảnh trên sông Đuống, thuyền của công chúa chẳng may bị đắm, rất nhiều người xuống tìm xác nàng mà không thấy. Ông đã xin vua cho phép được xuống tìm và đã vớt được. Vua ban thưởng, phong làm “Thái giám nội thị tự khanh” và ân thưởng nhiều vàng bạc, lụa nhưng ông không nhận, chỉ xin nhà vua cho dân nghèo ở làng Lệ Mật sang khai khẩn vùng đất phía Tây kinh thành, dựng nên 13 làng trại (Thập tam trại, trong đó có làng Kim Mã). Đến ngày 10 tháng 10 năm 1119 (Kỷ Hợi) đời vua Lý Nhân Tông ông bị bệnh và mất ở kinh đô hưởng thọ 93 tuổi. Với công lao to lớn lập trại an dân nhà vua đã cho lập đền miếu thờ ông ở nhiều nơi trong 13 làng trại và sắc phong ông làm “Thành hoàng Thái giám Linh Chương Đại Vương, thượng đẳng phúc thần”.
Trước đình Kim Mã có 2 trụ cổ lớn, được xây dựng bởi hai dòng họ lớn là dòng họ Lê và Nguyễn Xuân. Trong đình còn có văn bia do Lê Cúc Hiên soạn dựng năm 1875. Đình còn lưu được sắc phong thần phả của triều đại Tây Sơn, một cửa võng có niên đại thế kỷ 19 được chạm khắc tỉ mỉ những đề tài: rồng chầu mặt trời, rồng cuốn thuỷ, tứ linh, văn mây, một sập thờ kiểu chân quỳ dạ cá có giá trị thẩm mỹ cao và hiếm thấy. Cách đình Kim mã khoảng 500m có lăng Phùng Hưng đã được xếp hạng là di tích lịch sử cấp quốc gia Đình là nơi hội họp văn hóa truyền thống của người dân địa phương vào những ngày lễ trong tháng và trong năm.
Đình Kim Mã đã được xếp hạng di tích lịch sử - cấp quốc gia ngày 27/12/1990.