Au XIVème siècle déjà, alors que l'ancienne Confédération combattait des armées étrangères, la population et les autorités reconnurent qu'une ordonnance de guerre précise et un minimum de procédure pénale militaire étaient devenues indispensables au maintien de la discipline individuelle sur le champ de bataille. Ainsi, la première réglementation de guerre de l'ancienne Confédération, le Convenant de Sempach, date de l'année 1393.

Plus tard, la nécessité du maintien de la discipline individuelle passa au second plan par rapport à l'impératif du «droit indigène». Au XVIIème siècle, un règlement pénal particulier s'appliquait ainsi aux mercenaires servant dans des armées étrangères . Ces militaires n'étaient pas soumis à l'autorité pénale du seigneur pour lequel ils guerroyaient, mais à celle de leurs propres commandants ; ils étaient donc jugés par leurs propres juges, non par des étrangers, et en fonction de leur propre droit. Ainsi, l'article VIII de l'Annexe à l'Alliance militaire des Confédérés avec Louis XIV de 1663 prévoyait déjà que la justice devait être administrée par les juges nationaux, à l'exclusion de tout autre juge ( «...und soll die Justizien verwaltet werden durch die Richter der Nation und keinen andern.. »). Ce principe fut âprement défendu par la Diète avec une persévérance qui impose le respect, à chaque fois que des tribunaux étrangers ou des commandants tentèrent de s'arroger la juridiction pénale envers des troupes suisses.

Au XIXème siècle également, on ne voulait pas de «juges étrangers». Il existait non seulement des troupes fédérales, mais aussi des troupes cantonales, qui restaient soumises à l'autorité de leurs propres tribunaux militaires. Ce ne fut qu'à la suite de la centralisation de l'armée, engagée avec la Constitution fédérale de 1874, que la loi fédérale sur l'organisation judiciaire et la procédure pénale pour l'armée fédérale vit le jour le 28 juin 1889 après que plusieurs projets eurent été présentés. On assista alors à l'unification des droits des troupes cantonales qui donnèrent naissance à un nouveau droit militaire fédéral.

Lors de la Première Guerre mondiale en particulier, on se rendit compte qu'un droit pénal militaire moderne faisait défaut. La jurisprudence était rare et très disparate. Le Code pénal militaire (CPM) du 13 juin 1927 vint combler cette lacune. Tout comme le Code pénal ordinaire de 1937, il est encore en vigueur, mais il a naturellement subi plusieurs révisions partielles. La justice militaire est par ailleurs dotée depuis 1979 d'une loi de procédure fédérale moderne, qui garantit - à juste titre - que les militaires soient jugés par leurs tribunaux particuliers.