Nối từ phố Hai Bà Trưng đến phố Lý Thường Kiệt, lọt vào giữa nhà giam và tòa án, nguyên là phần đất thôn Nam Phụ. Tới giữa thế kỷ XIX, thôn này hợp với thôn Nguyên Khánh thành thôn Phụ Khánh. Thôn này chuyên làm ấm đất, siêu đất và các loại hỏa lò bằng đất đem bán khắp kinh kỳ nên cũng có tên là làng Hỏa Lò. Tới khi Pháp chiếm Hà Nội, chúng đuổi toàn bộ dân làng này đi, lấy đất xây tòa án và nhà tù, vậy nên dân chúng gọi là "nhà tù Hỏa Lò". Trước cửa nhà tù này, thực dân Pháp còn đặt máy chém để hành hình các chiến sĩ Cách Mạng. Thời Pháp thuộc, phố này có tên là "phố nhà tù" (rue des la Prison), nhưng dân chúng vẫn quen gọi là phố Hỏa Lò. Sau Cách Mạng đã gọi theo tên quen thuộc đó.