Ce type de magasin est apparu aux États-Unis à la fin de la Guerre de Sécession en 1865 où, à la suite de la démobilisation générale, les soldats rendus à la vie civile vendaient leur uniforme militaire aux magasins locaux pour se faire un peu d'argent.

Il faut attendre la Première Guerre mondiale pour que le concept de magasin militaire voit le jour en Europe. Au départ, tous les articles vendus dans ces magasins étaient encore d'actualité durant les conflits mondiaux, c'est à la fin de la Seconde Guerre mondiale que ces équipements commencent petit à petit à ne plus convenir pour l'armée moderne.

Aujourd'hui les magasins de surplus militaire vendent essentiellement du matériel militaire d'occasion sans distinction pour la nationalité.  Les clients sont principalement des collectionneurs, des survivalistes, des airsofteurs et paintballeurs. Les militaires quant à eux se tournent désormais vers des distributeurs spécialisés.