Đình thờ thần Cao Sơn, theo truyền thuyết thì Cao Sơn là một trong 50 người con của Lạc Long Quân và Âu Cơ theo mẹ lên núi. Cao Sơn là thần núi đã giúp Sơn Tinh đánh thắng Thuỷ Tinh. Thần cũng có công giúp vua Lê Tương Dực dẹp loạn, khôi phục nhà Lê. Vua Lê đã cho xây dựng đền, dựng bia “Cao Sơn đại vương thần từ bi minh”. Tương truyền tấm bia đó vốn được dựng ở huyện Phụng Hoá (Nho Quan, Ninh Bình), đến đời Hoằng Định (1600 - 1619) nổi lên ở Bồ Đề, dân làng Kim Liên kéo về dựng tại đây.
Trước đình là một cổng gạch gồm 2 trụ cột, bên trên là 2 con nghê. Qua cổng là một sân gạch rộng, hai bên là 2 dãy dải vũ, mỗi dãy 3 gian. Tam quan và đình được xây trên một gò đất cao hơn, gồm 4 bậc gạch về, hai bên thềm có 2 sấu đá thời Lê hướng ra phía cổng.
Tam quan xây kiểu tường hồi bít đốc, 4 góc có 4 cột trục. Bốn bộ vì đỡ mái được làm theo kiểu chồng rường giá chiêng. Câu đầu và 2 bẩy của hai vì ngoài được chạm bong, chạm lộng các hình rồng, phượng.
Đình được bố cục theo hình chữ “đinh”, gồm Bái đường và Hậu cung. Bái đường đến nay chỉ còn dấu vết một nền đất cao và những tảng đá kê chân cột. Hậu cung là một nhà dọc 3 gian, gian ngoài đặt hương án sơn son thếp vàng, chạm nổi hình tứ linh, tứ quý. Bên phải có hai long ngai thờ thần Cao Sơn đại vương. Long ngai có mặt đáy hình vuông, được chạm trổ công phu, tỉ mỉ các loại hoa. Bên gian ngoài có long ngai phối thờ hai nữ thần là “Thuỷ tinh đệ tam tôn nữ Đông Hồ Trưng Vương mẫu” và “Huệ Minh phu nhân”.
Đình còn giữ được 39 đạo sắc phong, gồm 26 đạo thời Lê Trung hưng, 13 đạo thời Nguyễn, cổ nhất là sắc phong năm 1620. Đình có 4 đôi câu đối, 2 tấm bia đá. Bia “Cao Sơn đại vương thần từ bi minh” ghi lại công lao của thần Cao Sơn giúp vua Lê dẹp loạn, do Thượng thư Lê Tung soạn năm 1510, gồm 47 dòng, 1000 chữ Hán.
Năm 2000, nhân kỷ niệm 990 năm Thăng Long - Hà Nội, đình đã được Nhà nước đầu tư trùng tu nhiều hạng mục quan trọng làm cho đình ngày càng khang trang.
Lễ hội đình Kim Liên rất náo nhiệt. Lễ chính của đình vào ngày 16 tháng 3 âm lịch, sau giỗ tổ Hùng Vương 6 ngày. Vào hội, có 3 nơi rước kiệu tới là Quỳnh Lôi, Phương Liệt, Bạch Mai. Sau phần nghi lễ, hội có nhiều trò chơi như bắt vịt dưới ao (trước đền), đi cầu bập bênh, chọi gà... Đặc biệt có mâm cỗ 7 tầng dâng tiến đại vương, xếp theo khuôn gỗ bao quanh hình vuông, mỗi cạnh 0,80m. Thứ tự từ tầng 1 lên gồm: xôi gấc, bánh chưng, bánh dày, bánh su sê, bánh cốm, quả (táo, lê), trên cùng là hình ông Lã Vọng hoặc Thạch Sanh làm bằng một con gà luộc dựng đứng (2 cánh gà là 2 tay, 2 chân gà là 2 chân người), trông rất lạ mắt và hấp dẫn.
Trước Cách mạng tháng Tám năm 1945, đình Kim Liên cũng là cơ sở hoạt động của đồng chí Hoàng Quốc Việt và nhiều cán bộ cách mạng. Vì vậy, trong lễ hội, ngoài đông đảo các tầng lớp nhân dân, du khách, đình Kim Liên còn đón tiếp các vị đại diện Đảng, chính quyền của quận Đống Đa và thành phố cùng nhiều vị lão thành cách mạng.
Đình đã được Bộ Văn hoá và Thông tin xếp hạng di tích lịch sử, kiến trúc nghệ thuật năm 1990.
