Nguyễn Văn Tố có bút hiệu Ứng Hoè sinh ngày 5 tháng 6 năm 1889, quê ở Hà Đông (nay thuộc ngoại thành Hà Nội). Thuở nhỏ ông học chữ Hán, sau sang Pháp học đỗ bằng Thành Chung (Trung học). Về nước ông làm việc tại trường Viễn Đông Bác Cổ Hà Nội, chuyên về văn học cổ Việt Nam. Ông từng làm Hội trưởng hội Trí Tri, Hội truyền bá chữ Quốc ngữ trước năm 1945.
Sau CMT8, ông giữ chức Bộ trưởng xã hội trong chính phủ lâm thời. Ông là Đại biểu quốc hội, Trưởng ban thường trực Quốc hội khóa I Quốc vụ khanh trong chính phủ liên hiệp quốc dân.
Sau ngày toàn quốc kháng chiến (ngày 19 tháng 12 năm 1946, ông cùng chính phủ rút lên Việt Bắc tiếp tục kháng chiến chống Pháp. Ngày 7 tháng 10 năm 1947, trong 1 cuộc tấn công chớp nhoáng của quân đội Pháp vào chiến khu, ông bị bắt và bị giết tại Bắc Cạn.
Những công trình nghiên cứu của ông rất có giá trị, được in trong các tạp chí như "Trí Tri", "Trí Tân", "Viễn Đông Bác Cổ" xuất bản ở Hà Nội thời bấy giờ.
Tên ông được đặt cho 1 trường ở Khu 9 Nam Bộ trong những năm kháng chiến chống Pháp (1946 - 1954). Trường Nguyễn Văn Tố rất nổi tiếng vì đã có công đào tạo nhiều nhân tài cho đất nước. Nhiều cán bộ lãnh đạo Nhà nước Việt Nam hiện nay có xuất thân từ trường này.
Tên ông được đặt cho con phố ở Hà Nội.