Trường Sư phạm Mẫu giáo TW3 thành lập ngày 25-9-1976, với nhiệm vụ đào tạo giáo viên mẫu giáo trình độ trung cấp có khả năng làm cán bộ quản lí ngành học, giáo viên dạy các bộ môn phương pháp chăm sóc giáo dục trẻ ở các Trường sư phạm mẫu giáo địa phương thuộc các tỉnh khu vực phía nam. Từ năm 1977, Trường bắt đầu đào tạo giáo viên mẫu giáo hệ 12+1+1. Bên cạnh đó, Trường cũng đào tạo các khoá bồi dưỡng cấp tốc cô nuôi dạy trẻ (3 tháng, 9 tháng, 12 tháng). Từ năm 1988, Trường đào tạo hệ 12+2.
Năm 1987, trường được nâng cấp từ hệ trung cấp lên hệ cao đẳng với nhiệm vụ đào tạo giáo viên có trình độ cao đẳng (12+3) và đổi tên thành Trường Cao đẳng Sư phạm Mẫu giáo TW3 theo Quyết định số 89/HĐBT ngày 28-3-1987 của Hội đồng Bộ trưởng.
Trường Cao đẳng sư phạm trung ương TP.HCM Cơ sở 1
Tháng 10-1995, Trường Mẫu giáo Thực hành trực thuộc Trường CĐSP MG TW3 được thành lập, hoạt động theo mô hình trường thực hành nằm trong trường sư phạm, theo cơ chế trường mẫu giáo bán công tự chủ về tài chính. Đến năm 2008, trường Mẫu giáo thực hành được đổi tên thành trường Mầm non thực hành.
Tháng 1-2000, Trường được Bộ Giáo dục và Đào tạo cho phép mở 2 ngành Sư phạm Âm nhạc và Sư phạm Mỹ thuật, đào tạo giáo viên trình độ cao đẳng cho các bậc học mầm non, tiểu học và trung học cơ sở.
Tháng 5-2003, Trường mở ngành Giáo dục Đặc biệt. Tháng 6-2003, các khoa Sư phạm Mầm non, Sư phạm Âm nhạc, Sư phạm Mỹ thuật và Giáo dục Đặc biệt được thành lập theo Quyết định số 2800/QĐ-BGD&ĐT ngày 19-6-2003 của Bộ Giáo dục & Đào tạo.
Tháng 4/2007 Trường được đổi tên từ "Trường Cao đẳng Mẫu giáo TW3" thành "Trường Cao đẳng Sư phạm Trung ương Thành phố Hồ Chí Minh".
Hiện nay, Trường được Bộ GD&ĐT cho phép đào tạo 8 ngành : SP Mầm non, SP Âm nhạc, SP Mĩ thuật, Giáo dục đặc biệt, Quản lí văn hóa, Kinh tế gia đình (chuyên ngành Dinh dưỡng công đồng), Đồ họa, Công tác xã hội. Dự kiến, năm 2011 Trường sẽ đào tạo thêm một số ngành mới, trong đó có SP tiếng anh và SP giáo dục công dân.
Đảng bộ nhà trường có 62 Đảng viên đang sinh hoạt tại 4 chi bộ. Giai đoạn 2000 - 2008, Đảng bộ Trường đạt danh hiệu Đảng bộ trong sạch, vững mạnh.
Công đoàn Trường nhiều năm liền đã nhận được bằng khen của Thủ tướng chính phủ, nhiều bằng khen, cờ của Tổng Liên đoàn Lao động Việt Nam, Liên đoàn Lao động thành phố, Công đoàn ngành Giáo dục và Đào tạo.
Đoàn trường trong nhiều năm liền đã nhận được nhiều bằng khen, cờ của Trung ương Đoàn, UBND thành phố Hồ Chí Minh, Thành đoàn… cho đơn vị xuất sắc. Tháng 4-2005, Chủ tịch nước đã trao tặng huân chương Lao động hạng Ba cho Đoàn trường.
Hội Sinh viên trường liên tục nhận được bằng khen “Hội sinh viên trường xuất sắc” của Trung ương Hội sinh viên Việt Nam, nhiều bằng khen của UBND Thành phố, Hội SVVN TP. Hồ Chí Minh. Hội viên Hội sinh viên trường được tham gia các hoạt động thiết thực và ý nghĩa, nhiều sinh viên được trao tặng danh hiệu “Sinh viên 3 tốt” cấp Thành. Hội sinh viên trường được nhận lá cờ đầu toàn Thành năm 2007 về công tác Tổ chức - Xây dựng Hội.
Không chỉ giới hạn ở việc đào tạo giáo viên hệ cao đẳng, Trường còn mở rộng các hệ đào tạo, nhằm tạo thêm nhiều cơ hội học tập nâng cao trình độ, bồi dưỡng kiến thức chuyên môn, nghiệp vụ cho người học: Liên kết với trường ĐH Sư phạm TP. Hồ Chí Minh đào tạo giáo viên trình độ đại học, mở thêm các chuyên đề, các lớp đào tạo, bồi dưỡng đáp ứng nhu cầu của người học. Với sự năng động, sáng tạo, nắm bắt nhanh nhạy nhu cầu của người học, Trường đã mở thêm các lớp đào tạo, bồi dưỡng chuyên môn ngắn hạn như: Đào tạo chủ trường mầm non; Bồi dưỡng hiệu phó bán trú; Lớp đàn organ cơ bản; Vi tính căn bản, Thể dục nhịp điệu, Vi tính theo chương trình Intel, Bảo mẫu trong trường Mầm non.
