В годы Великой Отечественной войны в Красной армии были сформированы донские казачьи дивизии, которые приняли активное участие боевых действиях, при этом особенно отличился Пятый гвардейский Донской казачий корпус.

Тем не менее, часть казаков сражалась на стороне противника. На стороне Гитлера сражалось 94 тысячи казаков, из них 40 тысяч донских. В апреле 1942 года Гитлер официально разрешил создание казачьих частей в составе вермахта. Такие части были созданы весьма скоро. Однако большинство офицеров там были не казаки, а немцы, и в большинстве случаев казачьи части придавались немецким охранным дивизиям для борьбы с партизанами.
Летом 1943 г. германское верховное командование сформировало 1-ю казачью дивизию под командованием полковника фон Панвица. Она состояла из 7 полков – 2 полка донских казаков, 2 кубанских, 1 терекских, 1 сибирских и 1 смешанный резервный. Оснащены и обмундированы они были по-немецки, единственное отличие – нарукавная нашивка. В сентябре 1943 года дивизию перебросили во Францию, для защиты Атлантического Вала. Однако казаки стали требовать отправки на фронт и верховное командование послало дивизию в Югославию на борьбу с партизанами. Там, кстати, уже сражался против югославских партизан-коммунистов Русский Охранный Корпус численностью 15 тысяч казаков, сформированный белоэмигрантами и их сыновьями.
В июне 1944 г. 1-я казачья дивизия фон Панвица получила статус корпуса – 15-й казачий корпус в составе примерно 50.000 бойцов. В июле 1944 г. корпус был формально введен в состав Ваффен СС (то есть получил статус, аналогичный гвардейскому в советской армии). К тому времени казаки добились ношения формы, более похожую на казачью, и ни казаки, ни немецкие офицеры корпуса не носили эсэсовских знаков различий. Сражались донские казаки на стороне германских войск и в битве за Ростов в 1943 году. При этом "германские казачки" сражались чаще всего упорнее, чем сами немцы. Казачьи части, сражавшиеся на стороне Гитлера, были разоружены только 27 мая 1945 года – через 18 дней после официального окончания войны. По секретному договору со Сталиным все казаки и их семьи, захваченные в расположении союзников, были депортированы в Россию. Передача мятежных казаков была произведена в австрийском городке Лиенц.

Геренальские погоны были утверждены, но генеральские звания у казаков Вермахта были редкостью. В ноябре 1944 г. звание генерал-майор казачьих войск было присвоено Ивану Никитичу Кононову, но он носил погоны немецкой армии.  Единственным генералом от кавалерии среди казаков Вермахта был 92-летний Василий Егорович Флуг, получивший генеральское звание ещё в царской Армии.