Nguyễn Cao sinh năm Đinh Dậu (1837), người làng Cách Bi, huyện Quế Dương (tức Quế Võ), tỉnh Bắc Ninh. Cha ông là Nguyễn Hạnh, đỗ Cử nhân khoa Tân Mão (1831), làm Tri huyện Thủy Đường. Ông mồ côi cha từ khi còn nhỏ. Mẹ ông lúc đó mới hơn hai mươi tuổi nhưng quyết tâm ở vậy nuôi con với niềm hy vọng con mình sẽ trở thành người hữu dụng cho đất nước. Ít lâu sau, thân mẫu Nguyễn Cao cũng qua đời.
