Ban đầu, trường mang tên Trường Cơ khí châu Á (L'ecole des Mécaniciens Asiatiques), thường gọi là Trường Bá nghệ, là trường dạy nghề thứ hai ở Ðông Dương (trường đầu tiên là Trường Cour d'Apprentissage, sau đổi thành trường Trung học kỹ thuật Nguyễn Trường Tộ, nay là số 2 Mai Thị Lựu, phường Ðakao, quận 1). Trường thành lập ngày 20-2-1906 nhằm đào tạo nhân lực đáp ứng nhu cầu hàng hải của nền cai trị thuộc địa và kỹ nghệ địa phương. Trường được đổi tên là Trường trung học Kỹ thuật Cao Thắng ngày 29-6-1956, với sĩ số 1.500 học sinh, trở thành trường trung học kỹ thuật lớn nhất miền nam. Từ những ngày đầu, do mục tiêu đào tạo cho nên học sinh của trường phần lớn là con em gia đình bình dân, được rèn luyện trong lao động, sớm nhận biết sự bất công xã hội, luôn sôi sục lòng yêu nước và nhiệt huyết, ý chí đấu tranh sắt đá. Rất sớm, học sinh Trường Cao Thắng đã tham gia bãi khóa, rải truyền đơn, xuống đường đấu tranh cùng nhân dân Sài Gòn, đưa tang cụ Phan Chu Trinh (1925), đòi tự do cho cụ Phan Bội Châu (1926), phản đối nhà cầm quyền bắt giam Nguyễn An Ninh (1926). Năm 1932, Chi bộ Ðảng Cộng sản Ðông Dương đầu tiên đã được thành lập tại trường. Năm 1950, Ðảng ta xác định trường là một trong những trường trung học trọng điểm tại Sài Gòn (mang bí số A1), cho nên đã tập trung chỉ đạo, xây dựng nhiều cơ sở bí mật tại đây. Hệ thống này gồm 60 cơ sở bí mật, là nòng cốt cho các tổ chức và hoạt động công khai, bán công khai như: Tổng đoàn học sinh, Ban đại diện học sinh... và các tổ chức: biệt động, quân báo, binh vận. Qua nhiều giai đoạn đấu tranh, trường luôn là tâm điểm, ngòi nổ cho phong trào học sinh, sinh viên đấu tranh ngay trung tâm Sài Gòn. Trong nhiều thời điểm, học sinh trường Cao Thắng với mầu áo xanh truyền thống đã biến dụng cụ học tập thành vũ khí, nhà trường là chiến lũy đấu tranh. Ngày truyền thống của trường là ngày 20-4. Ngày này, năm 1919, người thợ cơ khí tàu biển Tôn Ðức Thắng đã kéo cờ phản chiến trên chiến hạm France, thuộc hạm đội Pháp trên biển Hắc Hải, ủng hộ Cách mạng Tháng Mười Nga.
Trước năm 1975, trường đào tạo kỹ thuật đệ nhị cấp. Ðào tạo học sinh tốt nghiệp tú tài II kỹ thuật để thi vào các trường cao đẳng thuộc ÐH Bách khoa Phú Thọ. Sau năm 1975, trường đào tạo ba hệ: Cao đẳng kỹ thuật, trung học kỹ thuật và công nhân kỹ thuật bậc 3/7. Ngày 19-10-2004, trường được đổi tên như tên gọi ngày nay và xây dựng thêm một tòa nhà bảy tầng, cùng một tầng hầm.
Vừa qua, UBND TP Hồ Chí Minh đã có công văn gửi Bộ Giáo dục và Ðào tạo, Bộ Công thương, chấp thuận chủ trương nâng cấp Trường cao đẳng Kỹ thuật Cao Thắng lên đại học. Ðồng thời bố trí một khu đất để xây dựng cơ sở 2 của trường.
