Phố Hàng Khay dài 170m, rộng 14m.
Chạy cạnh bờ nam hồ Gươm, nối liền phố Tràng Tiền với phố Tràng Thi. Đây nguyên là đất thôn Vũ Thạch thuộc tổng Tiền Túc (sau đổi là tổng Thuận Mỹ), huyện Thọ Xương cũ.
Hàng Khay thực ra có tên từ lấy đời và gồm có đoạn phố ngày nay, và cả đoạn cuối phố Tràng Tiền nữa. Đây là đất làng Cựu Lâu.
Đầu thời Pháp thuộc phố này và phố Tràng Tiền gọi chung là phố Thợ Khảm (rue des incrusteurs). Năm 1886 đổi là phố Pôn Be (rue Paul Bert). Sau cách mạng đã được tách riêng gọi là phố Hàng Khay. Trong thời tạm chiếm, đổi là phố Anh Quốc (Great Britain Street). Từ ngày giải phóng Thủ đô đổi gọi bằng tên hiện nay.
Cho tới trước khi Pháp xâm lược, dọc phố Hàng Khay có những cửa hàng chuyên làm bán các đồ khảm xà cừ như sập, ghế, bàn, tủ chè, khay… Hồi đó, ở đây còn có đền thờ ông tổ nghề khảm. Tương truyền ông này tên là Nguyễn Kim, sống đời Lê Cảnh Hưng (nửa sau thế kỷ XVIII) người làng Thuận Nghĩa (không rõ là ở huyện nào), tỉnh Thanh Hóa. Ông giỏi nghề khảm, truyền nghề cho dân làng Chuyên Mỹ (tức làng Chuôn thuộc huyện Phú Xuyên, Hà Nội). Từ đây nghề khảm mới tỏa đi các nơi.
Nhưng ở chính làng Chuôn thì dân lại kể rằng ông tổ nghề này họ Vũ và chính quê ở đây. Lại còn một thuyết khắc kể rằng ông tổ nghề khảm là Trương Công Thành, người đời Lý Nhân Tông!
Rất có thể đó là ba người đã có công phổ biến hoặc cải tiến nghề khảm ở ba địa phương khác nhau. Trong thực tế lịch sử thì từ thế kỷ XIII đồ khảm của ta đã rất nổi tiếng, sử sách Trung Quốc đã từng ca ngợi những loại khay và cơi trầu khảm xà cừ của ta là bảo vật (vật báu).
Tới khi Pháp chiếm đóng Hà Nội, đây là một trong những phố người Pháp chú trọng mở mang đầu tiên. Ngay từ năm 1886, đốc lý Hà Nội là Ha-le (Halais) đã cho mở đường xá mới. Làng Cựu Lâu, làng Vũ Thạch trở thành phố với những nhà cửa mới xây cất lên. Có một ngôi nhà xây vào năm đó và nay vẫn tồn tại: đó là ngôi nhà ba tầng mang biển số nhà 3 phố Hàng Khay, trên nóc vẫn còn dòng chữ số ghi năm xây dựng: 1886.
