Sự hình thành quán Đồng Thiên được ghi lại trên tấm bia đá niên đại Tự Đức thứ 13 (1869) hiện còn trong khuôn viên. Theo thời gian, quán Đồng Thiên dần chuyển đổi mô hình thờ tự thành đền và cuối cùng trở thành chùa Kim Cổ.
Theo các nguồn sử liệu, quán Đồng Thiên được khởi dựng bởi Nguyên phi Ỷ Lan vào khoảng thế kỷ XI, khi vua Lý Thánh Tông xây cho bà một cung điện riêng tại phường Kim Cổ. Quán Đồng Thiên nằm trong khuôn viên cung điện và là nơi Nguyên phi Ỷ Lan thường lui tới để tham thiền học đạo. Bà cũng được biết đến với hai lần đăng đàn nhiếp chính, giúp đất nước dưới triều Lý trở nên hưng thịnh và đặc biệt là sự phát triển rực rỡ của Phật giáo thời kỳ đó.
Đầu thời Tây Sơn, trên khu nền cũ, dân làng Kim Cổ đã dựng đền thờ Linh Nhân Hoàng Thái hậu Ỷ Lan và tôn bà là Phật Bà Quan Âm. Thời Tự Đức, năm Kỷ Mùi (1859), đền được mở rộng quy mô và đưa thêm hệ thống tượng Phật vào thờ. Từ đó, đền đổi thành chùa Kim Cổ.
Chùa Kim Cổ ngày nay có quy mô khá khiêm tốn, gồm cổng vào, khoảng sân hẹp và khu thờ tự. Cổng chùa được hình thành bởi các trụ biểu, bên trên là vòm mái được thiết kế kiểu hai tầng tám mái với các đầu đao uốn cong. Diềm mái trang trí lá đề, bờ nóc đắp nổi hai đầu kìm chầu mặt nguyệt. Giữa hai mái đắp nổi bốn chữ: “Kim Cổ đại tự”. Sau cổng là khoảng sân hẹp dẫn tới khu thờ tự. Tiền đường là nơi thờ Phật, gồm ba gian, xây kiểu tường hồi bít đốc tay ngai. Cung cấm nối liền với tiền đường bằng hai cửa nách dẫn đến nếp nhà ba gian; gian giữa thờ Nguyên phi Ỷ Lan và hai thị nữ.
Mặc dù đã trải qua lịch sử tồn tại hơn 10 thế kỷ nhưng chùa Kim Cổ hiện còn bảo lưu nhiều di vật quý như: 8 pho tượng Phật mang phong cách nghệ thuật thế kỷ XIX, tượng Nguyên phi Ỷ Lan, 1 bức cuốn thư, 1 cửa võng, 1 chuông đồng, 2 tấm bia đá, 3 bức hoành phi, 1 đôi câu đối...
Năm 1996, chùa Kim Cổ được xếp hạng Di tích lịch sử - văn hóa cấp quốc gia.