Tháng 11 năm 1962 Trung ương và Đảng quyết định duy trì Khu tự trị Tây Bắc, cho tái lập 2 tỉnh Sơn La và Lai Châu. Ngay sau đó 1 năm vào ngày 15 tháng 10 năm 1963 trường Sư phạm dân tộc cấp I tỉnh sơn La ra đời tren cơ sở tách ra từ trường Sư phạm Khu thự trị Tây Bắc. Trường đóng tại địa điểm bản Pán, xã Chiềng Ly, huyện Thuận Châu, Sơn La do Thầy Trần Hữu Dụng quản lý trưởng.

Đến năm 1969 trường do thầy Lạc Long Khoa làm Hiệu trưởng, được chuyển về xã Hua La, thị xã Sơn La.

Năm 1972, trường do thầy Vũ Khắc Nợi làm quyền Hiệu trưởng, được Bộ Giáo dục quyết định nâng cấp từ trường Sư phạm Dân tộc cấp I tỉnh thành trường Trung học Sư phạm Sơn La. Đầu tháng 10 năm 1972 nhà trường chuyển đến địa điểm mới bản Nạm la, xã Hát Lót, huyện Mai Sơn và tiếp tục xây dựng củng cố trường về mọi mặt.

 Năm 1976 trường do thầy Trần Viết Oánh làm Hiệu trưởng, được tiếp quản toàn bộ cơ sở vật chất của Tỉnh ủy - HĐND – UBND tại bản Dôm, thị trấn Hát Lót, Mai Sơn khi đó thầy Trần Quang Ân làm Hiệu trưởng, đội ngũ giáo viên của trường đã phát triển tương đối đủ về số lượng, mạnh về chất lượng và đồng bộ về cơ cấu.

Năm 1980 trường Sư phạm vùng cao sáp nhập với trường Trung học Sư phạm tỉnh do thầy Trần Quang Ân làm Hiệu trưởng, với thành tích 20 năm xây dựng và trưởng thành, nhà trường đã được nhận phần thưởng cao quý của Đảng, nhà nước Huân chương Lao động hạng ba. Những năm 1990, trường do Thầy Khúc Năng Độ làm Hiệu trưởng đã vinh dự được nhận Huân chương lao động hạng nhì vào năm 1993.

Năm 1999 trường chuyển lên thị xã Sơn La (hiện tại là tổ 2 phường Chiềng Sinh, thành phố Sơn La).

Năm 2000 trường nâng cấp lên thành trường Cao đẳng Sư phạm Sơn La trên cơ sở sáp nhập với trường Sơ cấp Mầm non, trường Cán bộ quản lý giáo dục tỉnh.

Năm 2008 trường do thầy Nguyễn Huy Hoàng làm Hiệu trưởng. Dưới định hướng đào tạo đa ngành, đa nghề tạo cơ sở vững chắc cho công cuộc công nghiệp hóa, hiện đại hóa, góp phần đáng kể vào việc thực hiện các mục tiêu kinh tế – xã hội của tỉnh nhà, cùng sự ủng hộ của Tỉnh ủy, HĐND và UBND tỉnh, trường đã được Bộ Giáo dục Đào tạo phê chuẩn quyết định đổi tên trường thành Trường Cao đẳng Sơn La.

Năm 2019 trường Cao đẳng Nông Lâm sáp nhập với trường Cao đẳng Sơn La, do đồng chí Lưu Bình Khiêm làm Hiệu trưởng Nhà trường.