১৯৪৮ সালের ১২ ফেব্রুয়ারি আনসার বাহিনী প্রতিষ্ঠা লাভ করে এবং তৎকালীন পূর্ববাংলা আইন পরিষদে আনসার এ্যাক্ট অনুমোদিত হলে ১৭ জুন ১৯৪৮ সালে তা কার্যকর হয়।  তখন থেকে এ বাহিনীর প্রশিক্ষণ কার্যক্রম সাময়িকভাবে ঢাকার শাহবাগে অনুষ্ঠিত হতো। ১৯৬৫ সালে পাক-ভারত যুদ্ধকালে দেশের সীমান্ত ফাঁড়িগুলোতে আনসারদের প্রতিরক্ষার দায়িত্বে নিয়োজিত করা হয়। স্বাধীনতা যুদ্ধে বাংলাদেশের প্রথম অস্থায়ী সরকার (মুজিবনগর) এর শপথ গ্রহণ শেষে অস্থায়ী রাষ্ট্রপতিকে আনসার প্লাটুন কমান্ডার ইয়াদ আলীর নেতৃত্বে ১২ জন আনসার বাহিনীর সদস্য গার্ড অব অনার প্রদান করে। স্বাধীনতা যুদ্ধকালে আনসার বাহিনীকে বিদ্রোহী আখ্যায়িত করে বিলুপ্ত করা হয়। প্রায় ৪০ হাজার রাইফেল নিয়ে আনসার সদস্যরা স্বাধীনতা যুদ্ধে অংশ নেয়। যুদ্ধে আনসার বাহিনীর ৯ জন কর্মকর্তা, ৪ জন কর্মচারী ও ৬৫৭ জন আনসারসহ সর্বমোট ৬৭০ জন শহীদ হন। বাহিনীর ১ জন বীর বিক্রম এবং ২ জন বীর প্রতীক খেতাবে ভূষিত হন।  স্বাধীনতা উত্তরকালে ১৯৭৩ সাল থেকে ১৯৭৫ সাল পর্যন্ত ঢাকার অদূরে সাভারে আনসার বাহিনীর প্রশিক্ষণ কার্যক্রম পরিচালিত হয়েছে। ১৯৭৬ সালে গ্রাম প্রতিরক্ষা দল (ভিডিপি) ও ১৯৮০ সালে শহর প্রতিরক্ষা দলের (টিডিপি) সৃষ্টি হয়। পরবর্তী সময়ে এ দুটি বাহিনীই আনসার বাহিনীর সঙ্গে একীভূত হয়। ১৯৭৬ সালে গাজীপুর জেলার কালিয়াকৈর উপজেলার সফিপুরে জাতীয় আনসার প্রশিক্ষণ কেন্দ্র (এনএটিসি) প্রতিষ্ঠিত হয়। ১৯৮৩ সালে এর নামকরণ হয় আনসার ট্রেনিং স্কুল। ১৯৮৬ সালে আনসার ট্রেনিং স্কুলকে আনসার একাডেমিতে উন্নীত করা হয়। ১৯৯৫ সালে এর নামকরণ হয় আনসার-ভিডিপি একাডেমি। বাহিনী বর্তমানে পরিচালিত হচ্ছে আনসার বাহিনী আইন-১৯৯৫ এবং ব্যাটালিয়ন আনসার আইন ১৯৯৫- দ্বারা, যা সংসদ কর্তৃক গৃহীত হলে ১৫ ফেব্রুয়ারি ১৯৯৫ সালে মহামান্য রাষ্ট্রপতির অনুমোদন লাভ করে এবং ১৬ ফেব্রুয়ারি ১৯৯৫ হতে কার্যকর হয়। এ দুটো আইন অনুসারে সংবিধানের ১৫২ অনুচ্ছেদের বিধান অনুযায়ী আনসার বাহিনী একটি সুশৃঙ্খল বাহিনী।