Tiền thân trường PTTH Nguyễn Trãi là trường École Normale Supérieure được thành lập năm 1923, đặt tại cửa Bắc Hà Nội. Năm 1930 đổi thành trường Cao đẳng Tiểu học École Normale Supérieure Đỗ Hữu Vị. Đây là một trường lớn có thể sánh ngang các trường Bưởi (Lycée du Protectorat) và trường Đồng Khánh thời bấy giờ. Từ khi thành lập đến năm 1945, hiệu trưởng của trường đều là người Pháp.
Từ năm 1945, trường được mang tên vị anh hùng dân tộc Nguyễn Trãi. Lúc này, hiệu trưởng của trường là một người Việt Nam. Đó là ông Đỗ Trí Lễ (Cử Nhân Khoa Học). Ông là người Việt Nam đầu tiên làm hiệu trưởng trường Nguyễn Trãi. Trường thu nhận học sinh nam cả hai cấp: Trung học đệ nhất cấp (cấp 2) và Trung học đệ nhị cấp (cấp 3).
Năm 1954, trường được di chuyển vào Nam và vẫn mang tên Nguyễn Trãi. Vì không có trụ sở riêng nên trường phải học nhờ tại trường Tiểu học Trương Minh Ký (nay là trường Nguyễn Thái Học) đường Trần Hưng Đạo (Sài Gòn) sau đó chuyển về trường Tiểu học Lê Văn Duyệt (nay là trường Trần Văn Ơn). Đến năm 1964 mới chuyển về địa điểm bây giờ. Mặc dù phải học nhờ địa điểm của các trường khác nhưng các thế hệ thầy trò trường Nguyễn Trãi vẫn giữ được nề nếp học tập, đạo đức truyền thống. Kết quả các kỳ thi Trung học đệ nhất cấp, Tú tài 1, Tú tài 2, thi tuyển vào Đại học không thua kém các trường nổi tiếng thời bấy giờ như Pétrus Ký (nay là trường PTTH chuyên Lê Hồng Phong), Gia Long (nay là trường PTTH Nguyễn Thị Minh Khai), Chu Văn An...
Từ niên học 1971 - 1972, trường bắt đầu thu nhận thêm nữ sinh và vẫn dạy đủ 2 cấp học.
Đến niên học 1978 - 1979, trường hoàn toàn là trường cấp 3. Hiện nay là trường PTTH Nguyễn Trã
384, Nguyễn Tất Thành, Phường 18, Quận 4, Hồ Chí Minh
A75 , Nguyễn Thần Hiến, Phường 18, Quận 4, Hồ Chí Minh