沙俄时代的大元帅有亚历山大·达尼洛维奇·缅什科夫和亚历山大·瓦西里耶维奇·苏沃洛夫，他们都是俄罗斯帝国陆军的着名统帅。而在苏联时代，大元帅军衔是为领导苏联卫国战争取得胜利的原苏联国防委员会主席、苏联红军（二战后改为苏联武装力量，但仍习称“苏联红军”）最高统帅约瑟夫·维萨里奥诺维奇·史达林量身定製的。史达林曾于1943年3月6日被授予苏联元帅军衔。1945年6月，苏联最高苏维埃主席团发布命令授予史达林苏联大元帅军衔。

史达林实际上只佩戴苏联元帅的肩章

不过按照史达林传记的作者罗伯特·约翰·瑟维斯的说法，史达林后悔接受了这样一个过于自夸的军衔，他希望温斯顿·邱吉尔不要称他为“大元帅”，而是继续称他为“元帅”。史达林还拒绝把他的军衔与其他苏联元帅的军衔做出任何的区别，并且与其他苏联元帅一样佩戴元帅徽章，穿元帅服。

设立苏联大元帅的提议是在苏联卫国战争结束后被提出的，当时有人把一个关于苏联军衔法令的草案提交给史达林。后来，后勤部部长安德烈·瓦西里耶维奇·赫鲁廖夫大将接到给史达林设计大元帅服的任务，而且史达林要穿大元帅服出席于1947年5月9日卫国战争胜利两周年纪念日举行的胜利大游行。在大游行举行的一星期前，大元帅服设计完成并呈献给史达林。但是，史达林看过大元帅服后表达了不满。然后，他拿着关于设立苏联大元帅军衔的法令草案宣布：“我不会签署这一法令。元帅才是苏联红军的最高军衔。”这样，以后再也没有人提出过设立苏联大元帅军衔的建议。

不过，虽然史达林没有正式接受大元帅军衔，但苏联国内外仍然称他为“史达林大元帅”。

苏联大元帅礼服与常服

苏联大元帅肩章设计方案之一

苏联大元帅肩章有几种设计方案，其中一种图案与苏联元帅接近，亦为国徽和“元帅星”，不同的是“元帅星”周围有麦穗。但从二战结束后史达林的照片和画像上看，都是佩带元帅军衔。

苏联大元帅肩章各版方案

苏联授予史达林大元帅军衔的做法对它的邻国中华人民共和国和朝鲜民主主义人民共和国有很大影响，中华人民共和国大元帅和朝鲜民主主义人民共和国大元帅的军衔徽章样式即仿效了苏联大元帅军衔徽章，而朝鲜人民军最高司令官金日成即被授予了朝鲜民主主义人民共和国大元帅军衔。

中华人民共和国大元帅肩章

中华人民共和国在韩战过后的1955年实行军衔制，本来也準备仿效苏联授予史达林大元帅军衔的做法，将中华人民共和国大元帅军衔授予最高统帅毛泽东，但被毛泽东拒绝，因而未实授。

朝鲜民主主义人民共和国大元帅肩