21 мая 1942 года для солдат и офицеров Гвардейских частей был учрежден нагрудный знак «Гвардия».
Право ношения имели военнослужащие, чьи подразделения были удостоены звания «Гвардейские». С 11 июня 1943 г., данный знак помещался также на знамёнах данных подразделений.
Советская гвардия появилась в период тяжелейших оборонительных сражений лета и осени 1941 г. под Смоленском. В приказе № 308 Ставки Верховного Главнокомандования от 18 сентября говорилось: «В многочисленных боях за нашу Советскую Родину против гитлеровских орд фашистской Германии 100-я, 127-я, 153-я и 161-я стрелковые дивизии показали образцы мужества, отваги, дисциплины и организованности. В трудных условиях борьбы эти дивизии неоднократно наносили жестокие поражения немецко-фашистским войскам, обращали их в бегство, наводили на них ужас». Перечисленные в приказе дивизии, отличившиеся в боях с врагом, были переименованы соответственно в 1-ю, 2-ю, 3-ю и 4-ю гвардейские.
Для военнослужащих гвардейских частей были установлены материальные привилегии: для командного и начальствующего состава полуторный оклад, а для рядового – двойной оклад денежного содержания.
В период войны знак «Гвардия» вручался в торжественной обстановке, на общем построении, с выносом боевого знамени. Молодое пополнение, распределявшееся в гвардейские части и соединения, удостаивалось этой чести после боевого крещения, а в авиации и на флоте — только после нескольких боевых вылетов либо похода. Данное правило распространялось как на рядовой, так и на офицерский состав.