Lương Sử nguyên là tên một thôn mới đặt ra vào khoảng giữa thế kỷ XIX. Trước đó là 2 thôn: Ngự Sử và Lương Sừ. Tên Lương Sử được dùng để đặt cho 3 ngõ cụt bên dãy số lẻ phố Quốc Tử Giám dẫn vào thôn Lương Sử, đây chính là phần đất thôn Lương Sừ cũ. Thời Pháp thuộc, ở đây cũng gọi là ngõ Lương Sử.
Hiện trong ngõ Lương Sử A có đền thờ một danh tướng đời Lê Đại Hành, đó là Phạm Cự Lạng.