Vào thập kỷ 50 ở Việt Nam đã xuất hiện một số tổ chức Thể thao Olympic - tiền thân của Phong trào Olympic hiện nay.
Theo tài liệu của Uỷ ban Olympic Quốc tế, vào những năm 50 Việt Nam đã có 9 Hiệp hội Thể thao Quốc gia, được các Liên đoàn, Hiệp hội Thể thao Quốc tế công nhận. Đó là: Điền kinh, Bơi lội, Bóng đá, Bóng bàn, Bóng rổ, Xe đạp, Quần vợt, Quyền anh, Đấu kiếm.
Trong các Thế vận hội của thập kỷ 50, Việt Nam đã cử các đoàn Thể thao tham dự: Đại hội Olympic, Đại hội Thể thao châu Á và khu vực Đông Nam Á.
Sau khi nước nhà thống nhất, phong trào Thể thao Olympic của Việt Nam mới có điều kiện phát triển trên quy mô rộng lớn, theo xu hướng chung của phong trào Olympic Quốc tế là hoà nhập với cộng đồng quốc tế trong lĩnh vực thể thao nhằm thúc đẩy tình đoàn kết hữu nghị và hợp tác quốc tế vì hoà bình và tiến bộ xã hội.
Theo Hiến chương Olympic (Olympic Charter) tất cả các Uỷ ban Olympic Quốc gia muốn gia nhập phong trào Olympic Quốc tế cần phải thành lập một tổ chức Thể thao thống nhất với những Điều luật, Điều lệ riêng và được chính phủ nước mình cho phép.
- Ngày 20/12/1976, Thủ tướng Phạm Văn Đồng đã ký quyết định số 500 TTG cho phép thành lập Uỷ ban Olympic Quốc gia Việt Nam.
- Tháng 12/1979, Uỷ ban Olympic Việt nam đã trình đơn xin gia nhập Phong trào Olympic Quốc tế.
- Ngày 28/4/1980, Uỷ ban Olympic Quốc tế đã ra Quyết định công nhận chính thức Uỷ ban Olympic Quốc gia Việt Nam là thành viên của phong trào Olympic Quốc tế. Từ đây Uỷ ban Olympic Việt Nam là Đại biểu duy nhất của Nước Cộng hoà xã hội chủ nghĩa Việt Nam trong Phong trào Olympic Quốc tế có quyền được tham gia các Đại hội Thể thao Olympic, các Đại hội thể thao các châu lục và khu vực Đông Nam Á.
9 thành viên sáng lập gồm có:
1. Ông Lê Đức Chỉnh, nguyên Tổng cục trưởng Tổng cục Thể dục Thể thao – Chủ tịch.
2. Ông Tạ Quang Chiến, nguyên phó Tổng cục trưởng Tổng cục Thể dục Thể thao – Phó Chủ tịch.
3. Ông Hà Đăng Ấn, nguyên Chủ tịch Hội Bóng đá Việt Nam –Phó Chủ tịch.
4. Ông Bùi Tử Liêm, nguyên Vụ Trưởng Vụ Thể thao – Tổng thư ký.
5. Ông Nguyễn Đắc Thọ - nguyên Giám đốc Sở Thể dục Thể thao Hà Nội- Uỷ viên.
6. Ông Lê Bửu, nguyên Giám đốc Sở Thể dục Thể thao Thành phố Hồ Chí Minh – Uỷ viên.
7. Ông Trần Lưu Phương, nguyên Giám đốc sở Thể dục Thể thao Hải Phòng – Uỷ viên.
8. Ông Nguyễn Ứng Chiếm - Chánh Văn phòng Tổng cục Thể dục Thể thao – Uỷ viên.
9. Ông Trần Văn Trịnh, nguyên chuyên viên Vụ quan hệ Quốc tế - Tổng cục Thể dục Thể thao – Uỷ viên.
Từ đây, UB Olympic VN là đại diện duy nhất của nước CHXHCN Việt Nam trong phong trào Olympic Quốc tế, có quyền chuẩn bị và cử Đoàn thể thao tham dự các kỳ Thế vận hội, Asiad và SEA Games...
Năm 1982 do nhu cầu công tác, Uỷ ban Olympic Việt Nam được kiện toàn và bổ sung thêm một số thành viên mới. Ông Tạ Quang Chiến, nguyên Tổng cục trưởng Tổng cục Thể dục Thể thao làm Chủ tịch; ông Mai Văn Muôn, phó Tổng cục trưởng kiêm Tổng thư ký cùng 11 thành viên mới là các ông:
+ Nguyễn Văn Mạnh, nguyên Vụ Trưởng Vụ quan hệ Quốc tế - Uỷ viên.
+ Nguyễn Văn Trọng, phó Vụ Trưởng Vụ Thể thao thành tích cao, kiêm Tổng Thư ký Hiệp hội Bơi lội Việt Nam – Uỷ viên.
+ Lương Kim Chung, phó Vụ Trưởng vụ Thể dục Thể thao Quần chúng, Tổng thư ký Hội Thể dục Việt Nam – Uỷ viên.
+ Lê Thế Thọ, Vụ phó Vụ Thể thao Thành tích cao, Tổng thư ký Hội Bóng đá Việt Nam- Uỷ viên.
+ Phạm Lượng, Giám đốc Trung tâm Huấn luyện Thể thao Quốc gia, Tổng thư ký Hội Bóng Chuyền Việt nam – Uỷ viên.
+ Dương Nghiệp Chí, nguyên Hiệu trưởng Trường Đại học Thể dục Thể thao – Uỷ viên
Và một số thành viên khác...
Năm 1989, Uỷ ban Olympic Việt nam chính thức tham gia trở lại Hội đồng Liên đoàn Thể thao Đông Nam Á và cử Đoàn Thể thao Tham dự SEA Games 15 ở Kuala Lumpur (Malaysia). Bổ sung 10 thành viên mới, Đại diện cho các Liên đoàn Hiệp hội Thể thao.
Tháng 4/1993 Đại hội đại biểu Uỷ ban Olympic Việt Nam lần thứ I đã được triệu tập. Đại hội đã bầu ra Ban chấp hành mới gồm 36 thành viên do ông Hà Quang Dự Nguyên Uỷ viên TW Đảng, Bộ Trưởng phụ trách công tác Thể thao - Thanh niên làm Chủ tịch và ông Mai Văn Muôn phó Tổng cục Trưởng làm Tổng thư ký.
Tháng 7 năm 1998 Đại hội Đại biểu Uỷ ban Olympic khoá II (1998-2002) đã được triệu tập. Đây là Đại hội mang nhiệm vụ lịch sử quan trọng của Phong trào Thể thao Olympic Việt Nam trước thềm thiên niên kỷ mới, nhằm thúc đẩy Phong trào Thể thao cho mọi người, nhanh chóng nâng cao Thành tích thể thao và khẩn chương chuẩn bị những điều kiện về cơ sở vật chất để sẵn sàng đăng cai tổ chức Đại hội Thể thao Đông Nam Á (SEA Games 22) năm 2003 tại Việt Nam. Đại hội lần thứ II đã bầu 63 thành viên và 3 thành viên Danh dự do ông Hà Quang Dự nguyên Uỷ viên TW Đảng, Bộ Trưởng – Chủ nhiệm Uỷ ban Thể dục Thể thao Làm Chủ tịch và ông Hoàng Vĩnh Giang Giám đốc sở Thể dục Thể thao Hà Nội là Phó Chủ tịch kiêm Tổng thư ký và các thành viên khác.
Tháng 8 năm 2001 tại Đại hội giữa nhiệm kỳ Uỷ ban Olympic Việt Nam, ông Hà Quang Dự Chủ tịch Uỷ ban Olympic Việt Nam do chuyển công tác, Hội nghị Ban thường vụ đã bầu bổ sung ông Nguyễn Danh Thái Bộ trưởng- Chủ nhiệm Uỷ ban Thể dục thể thao làm Chủ tịch Uỷ ban Olympic Việt Nam khoá 2 (1998 –2002). Do yêu cầu công tác chuẩn bị đăng cai tổ chức SEA Games 22 tại Việt Nam, Ban Thường vụ đã bầu bổ sung 3 thành viên Ban thường vụ Uỷ ban Olympic Việt Nam là các ông Nguyễn Trọng Hỷ phó Chủ nhiệm Uỷ ban Thể dục Thể thao, ông Nguyễn Hồng Minh Vụ Trưởng Vụ Thể thao Thành tích cao 1 làm phó Chủ tịch và ông Trịnh Thanh Bình Giám đốc sở Thể dục Thể thao TP Hồ Chí Minh Uỷ viên. Đồng thời Ban thường vụ cũng đã quyết định kiện toàn Ban giáo dục - Hàn lâm Olympic và Ban kiểm tra khen thưởng, kỷ luật của Uỷ ban Olympic Việt Nam.
Như vậy, từ khi thành lập đến nay, Uỷ ban Olympic Việt Nam đã tiến hành 4 lần bổ sung kiện toàn tổ chức và đồng thời tiến hành 2 Đại hội nhiệm kỳ và một Đại hội giữa nhiệm kỳ.
Qua hoạt động thực tiễn, dưới sự lãnh đạo trực tiếp của Uỷ ban Thể dục Thể thao nhà nước, Uỷ ban Olympic Việt Nam đã có nhiều đóng góp vào sự nghiệp phát triển Thể thao Olympic của nước nhà, tạo ra những chuyển biến tích cực của Phong trào Olympic Việt Nam trên 3 lĩnh vực chiến lược: Thể thao cho mọi người, Thể thao đỉnh cao và Quan hệ Quốc tế trong lĩnh vực Thể thao.
Lãnh đạo Uỷ ban Olympic Việt Nam qua các thời kỳ:
* Chủ tịch:
- Ông Lê Đức Chỉnh (1976-1981)
- Ông Tạ Quang Chiến (1982-1993)
- Ông Hạ Quang Dự (1993-2001)
- Ông Nguyễn Danh Thái (2001-đến nay)
* Tổng thư ký:
- Ông Bùi Tử Liêm (1978-1982)
- Ông Mai Văn Muôn (1982-1998)
- Ông Hoàng Vĩnh Giang (1998-đến nay)