Phố Đốc Ngữ nối đường Hoàng Hoa Thám với đường Đội Cấn, nguyên là đất các làng Vĩnh Phúc và Cống Vị, trước đây có tên gọi là đường vào Quần Ngựa do Cung thể thao Quần Ngựa ngày nay từng là trường đua ngựa của thực dân. Đường vào Quần Ngựa trước đây chỉ kéo dài tới sân Quần Ngựa, sau này mới được nối tiếp sang Hoàng Hoa Thám.
Nguyễn Đức Ngữ (1844 - 1892) còn có tên là Đinh Ngữ vốn gốc họ Khuất quê làng Xuân Vân, Hà Tây. Ông từng là đốc binh trong quân ngũ của thống đốc Hoàng Kế Viêm, tham gia nhiều trận đánh Pháp ở Sơn Tây, Hà Nội. Sau khi Kế Viêm bị gọi về Huế, ông theo Nguyễn Quang Bích tiếp tục chống Pháp ở Tây Bắc. Từ năm 1890 nghĩa quân của ông hoạt động độc lập. Ông hi sinh trong trận chiến ở vùng Thanh Sơn, Phú Thọ.