Từ lâu, tháp Rùa đã thuộc về một phần tâm hồn của người Hà Nội. Hình ảnh Tháp Rùa luôn bình dị, cổ kính mà rất đỗi thiêng liêng, gắn liền với tâm thức của những người con đất Việt..
Theo dân gian truyền lại, Tháp Rùa được xây trên gò Rùa nơi xưa vua Lê Thánh Tông đã dựng Điếu Đài ở đó để câu cá. Sau khi Pháp hạ thành Hà Nội năm 1883 thì dân vùng ven hồ xiêu tán cả. Các quan Việt cũng bỏ sở nhiệm. Riêng có Nguyễn Ngọc Kim chức dịch làng Tự Tháp được cử làm trung gian giữa quân Pháp và người Việt, lại được chính quyền mới tín nhiệm nên ít lâu trở thành bá hộ, tục gọi là Bá hộ Kim.
Năm 1886 thấy huyệt đất trên gò Rùa hợp phong thủy ông xuất tiền xây tháp trên gò với ý định chôn hài cốt của cha vào đó. Việc không thành nhưng ngọn tháp ba tầng vẫn được hoàn tất. Vì vậy nên ban đầu Tháp này có tên là Tháp Bá hộ Kim. Vì vị trí đẹp giữa hồ, Tháp Rùa đã trở thành một hình ảnh đẹp, một biểu tượng mang vẻ đẹp văn hoá của Hà Thành.
Nếu như Hồ Gươm được ví như lẵng hoa tươi giữa lòng Hà Nội, trong lẵng hoa ấy nổi bật một đoá sắc màu đẹp nhất, gây ấn tượng nhất - Tháp Rùa. Tháp Rùa đẹp bởi đó là ngọn tháp được thiết kế kết hợp giữa phong cách kiến trúc châu Âu với hàng cửa cuốn gô-tích hai tầng dưới nhưng phần mái cong giữ quy thức kiến trúc Việt Nam. Tháp Rùa đẹp còn bởi nó được đặt ở vị trí hài hoà giữa cảnh quan của môi trường xung quanh với thời gian và con người tạo nên vẻ đẹp cổ kính và hết mực thiêng liêng.
Ngôi tháp được xây dựng trên một gò đất rộng khoảng 350m2, theo hình vuông có 3 tầng, tầng dưới xây rộng hơn, rồi thu nhỏ dần lên tầng trên, các mặt phía đông và tây có 3 cửa cuốn. Phía nam và bắc có 2 cửa cuốn nhọn ở đầu. Đỉnh 2 tầng có lan can chạy xung quanh. Bốn đầu đao đắp uốn cong dần lên vào giữa đỉnh, trên đỉnh có hình ngôi sao 5 cánh.
Tầng một xây trên móng cao 0,8m. Tầng này do là hình chữ nhật nên chiều dài mở ra ba cửa, còn chiều ngang mở ra hai cửa, tất cả là 10 cửa, đỉnh nhọn như cửa các nhà thờ Thiên chúa giáo. Bên trong tầng này phân ra ba gian, các gian thông với nhau bằng các cửa ngăn, đỉnh cũng nhọn như tất cả các cửa khác. Cả tầng có 4 cửa ngăn, tổng cộng 14 cửa.
Tầng hai xây lùi vào một chút, chiều dài 4,8m, chiều rộng 3,64m, cũng chia ra ba gian, kiến trúc y như tầng một với 14 bộ cửa nhưng nhỏ hơn. Tầng ba thu nhỏ hơn nữa, dài 2,97m, rộng 1,9m, chỉ mở một cửa hình tròn ở mặt phía Đông, đường kính 0,68m. Sát tường phía Tây có một ban thờ, không rõ thờ ai và có từ lúc nào. Tầng đỉnh chỉ như một vọng lâu, vuông vức, mỗi bề 2m. Trên tường mặt phía Đông, bên trên cửa tròn của tầng ba có ba chữ Quy Sơn Tháp, nghĩa là Tháp Núi Rùa. Như vậy, từ nền đất Gò Rùa lên đến đỉnh tháp là 8,8m.
Với sự giao thoa giữa hai lối kiến trúc là kiến trúc Pháp và kiến trúc bản địa tạo nên nét đẹp độc đáo, riêng biệt của Tháp Rùa. Điều quan trọng nhất là Tháp Rùa đã, đang tồn tại không chỉ là hiện hữu mà còn là tinh thần của người dân Hà Nội nói riêng và của đất nước Việt Nam nói chung.
