Hồ Gươm vốn là một đoạn dòng cũ của sông Hồng khi thay đổi dòng. Hồ Gươm còn có tên là Hồ Lục Thủy vì sắc nước ở đây bốn mùa đửu xanh. Cái tên hồ Hoà n Kiếm gắn liửn với truyửn thuyết trả gươm thần cho thần Kim Quy của vua Lê Thái Tổ. Vì nơi đây không gian rộng và đẹp nên không chỉ là nơi tập trận thủy binh mà còn là nơi vui chơi, nghỉ ngơi của vua chúa phong kiến đặc biệt là thời vua Lê chúa Trịnh.Tháp xây trên gò Rùa nơi xưa từ thời vua Lê Thánh Tông đã dựng Điếu Đà i ở đó để nhà vua ra câu cá.
Phủ chúa Trịnh xây dựng suốt dãy những lâu đà i dinh thự, tất cả đửu ngoảnh mặt ra hồ Hoà n Kiếm. Theo hướng ấy, các đời chúa Trịnh mới gọi phần hồ trên là Tả Vọng, phần hồ dưới là Hữu Vọng. Bên hồ Tả Vọng, các đời chúa Trịnh xây những nguyệt đà i, thủy tạ trên bử để là m nơi ngự chơi, đặc biệt xây một cái đình trên gò Rùa (tức tầng dưới tháp Rùa ngà y nay).
Sau khi Pháp chiếm thà nh Hà Nội năm 1883 thì dân vùng ven hồ xiêu tán cả. Các quan Việt cũng bử sở nhiệm. Riêng có Nguyễn Ngọc Kim chức dịch là ng Tự Tháp được cử là m trung gian giữa quân Pháp và người Việt, lại được chính quyửn mới tín nhiệm nên ít lâu trở thà nh bá hộ, tục gọi là Bá hộ Kim.
Năm 1886 thấy huyệt đất trên gò Rùa hợp phong thủy, nếu để được hà i cốt tiên nhân và o đó thì con cháu sẽ được muôn đời nối nhau là m quan cao chức trọng, Bá Kim tìm mọi cách để chiếm giữ mảnh đất ấy.
Mượn cớ xây dựng một ngọn tháp trên gò Rùa để là m hội chẩm cho chùa Báo à‚n phía Đông Hồ lúc bấy giử, Bá Kim đã bử tiửn ra để xây dựng. Đã được phép là m nhưng theo ý mọi người y phải để nguyên Tả Vọng đình, đà o móng xây thêm cho vững chắc rồi xây các tầng tháp trên đỉnh. Để thực hiện âm mưu của mình, y dùng riêng một số tay chân là m thợ nử, dự định ngay đêm hôm khai móng, chử đến khuya đem hà i cốt cha mẹ đã để sẵn trong hai cái quách nhử ngầm chôn xuống giữa gò, rồi lấp kín, định hôm sau sẽ xây nửn tháp cao lên trên. Việc y là m rất kín và tưởng chừng như không ai biết, cứ đinh ninh gò Rùa là nơi đất là nh, dòng họ con cháu sau nà y sẽ muôn đời phát phúc.
Tuy nhiên, một việc xảy ra không ngử: sáng hôm sau, khi y hớn hở cùng người nhà và thợ nử vừa ra tới gò thì vô cùng kinh ngạc, hai cái quách gỗ đã bị quật lên từ lúc nà o, chỉ còn quách không, hai bộ hà i cốt đửu không thấy đâu nữa. Thì ra trong đêm khuya đã bị ai đó bới lên quăng cả xuống hồ rồi.
Mặc dù không thực hiện âm mưu, nhưng đã hứa với mọi người là xây tháp nên Bá Kim buộc phải cắn răng tiếp tục là m cho xong công việc. Việc không thà nh nhưng ngọn tháp ba tầng vẫn được hoà n tất. Vì vị trí đẹp giữa hồ, tháp nghiễm nhiên biến thà nh thắng tích Hà Nội. Khi tháp được xây dựng xong, tên quan thực dân Pháp ở Đồn Thủy trước lễ khánh thà nh ở chùa Báo à‚n đã cấp bằng khen cho y và những khách thập phương lui tới dự lễ khánh thà nh đửu ca ngợi y đã là m một việc phúc đức, ngậm bồ hòn là m ngọt. Riêng thực dân Pháp thì thưởng công cho hắn bằng cách gọi tên tháp theo Bá Kim vậy nên ban đầu Tháp nà y có tên là Tháp bá hộ kim.
Ngọn tháp kết hợp phong cách kiến trúc châu à‚u với hà ng cửa cuốn gô tích hai tầng dưới với nhiửu cửa uốn xung quanh nhưng phần mái cong giữ kiến trúc cổ Việt Nam .
Thời Pháp thuộc, trên đỉnh Tháp Rùa có dựng một phiên bản của tượng Nữ Thần Tự Do (1890-1896) (hay còn được gọi là tượng Đầm Xòe). Sang thập niên 1950 tượng nà y đã bị phá bử khi chính phủ của thủ tướng Trần Trọng Kim nắm chính quyửn thay cho quân Pháp.
Đến nay, khi đến thăm Hồ Gươm, du khách không khửi ngạc nhiên giữa hồ lại có một chiếc tháp trên gò nổi lên. Mặc dù Tháp Rùa không có những nét đặc biệt vử nghệ thuật kiến trúc nhưng đó cũng là một di tích không thể thiếu trong quần thể danh thắng Hồ Gươm “ Hà Nội.