Азамат соғысы аякталғаннан кейін кеңес халқы бейбіт құрылысқа кірісті. Кеңес Армиясының сандық құрамы қысқартылып, ұлттық бөлімдер таратылды. 1924 ж. аяғында Революциялык — Әскери Кеңестің кеңесі ұлттық бөлімдер мен құрамаларды құрудың жоспарын бекітті, бұл жоспарда Өзбек КСР-і, Түрікмен КСР-і, Закавказье Кеңестік Федеративтік Республикасы, Тәжік, Қырғыз, Бурят-Монғол, Якут, Татар және башқұрт АКСР-лерінде және т.б. жерлерде ұлттык әскери бөлімдер мен құрамаларды кеңейту мәселесі қаралған еді.
1925 ж. мамырда болған КСРО Кеңестерінің III съезі Революциялық-Әскери Кеңестің Қызыл Армияның ұлттык Құрылымдары саласындағы жұмысын мақұлдап, Бүкілодақтық Орталық Атқару комитетіне және КСРО Халық Комиссарлар Кеңесіне «Социалистік Отанды қорғау ісінде Кеңес Одағының барлық халықтарының мүдделеріне сәйкес ұлттық құрамалардың белгіленген жоспарын орындауды қамтамасыз етуді тапсырды. Съезд шешімдерінде жаңадан құрылған бөлімдер өзінің жауынгерлік қабілеті жөнінен жұмысшы-шаруа Қызыл Армиясының бұрыннан бар бөлімдерінен артта қалмауы үшін ұлттық бөлімдерді кұру жоспарын бірте-бірте іске асыру қажет екеніне назар аударды.
1925 ж. қазанда Қазақ АКСР-і өскери комиссариатынын №127/3 бұйрығы бойынша Қызылорда қаласында атты өскердің кіші командирлік құрамын дайындайтын қазак ұлттық әскери мектебі құрылды. 1927 ж. қазанда бұл мектеп М.В.Фрунзе атыңдағы жеке қазақ ұлттық атты әскер дивизионы болып қайта құрылды. Дивизионнын командалық-саяси кұрамында мына жолдастар болды: дивизион командирі -Троицкий Александр; комиссары — Қаратаев Шәміл; қылышты эскадрон командирі — Ақаев Абдулла; дивизион әскери мектебінің бастығы — Нұрбеков Әшім; дивизионның саяси жетекшілері — Әзмұхамбетов Әбілхайыр мен Мәжитов Хамит.
КСРО Революциялық-Әскери Кеңесінің 1930 ж. №199 бұйрығы бойынша 1931 ж. қаңтарынан бастап дивизион жеке қазақ территориялық атты әскер полкі болып қайта құрылды. Полкте төрт қылышты эскадрон, бір пулемет эскадроны, кіші командалық құрам дайындайтьш полк мектебі, байланыс эс-кадроны (жарты эскадрон), жеке химиялық взвод, жеке саперлер взводы, жеке трубочистер взводы, қылышты эскадрондардың әрқайсысы мен пулемет эскадроны 4 взводтан тұрды, әр взводта 30-40 адам болды. Полктің қару-жарағы үшсызықты орыс винтовкасы, қылыш, Максимнің станокты пулеметі, Дегтеревтің қол пулеметі, револьвер, ТТ пистолеті. Полкті қару-жарақпен және көлік жабдықтарымен Орта Азия әскери округі қамтамасыз етіп отырды. Полк негізінен жергілікті халықтан (қазақтардан) толық-тырылып отырды. Полктің жеке құрамьшың шамамен 90 проценті жергілікті халық өкілі болды. Полк территориялык сипатта еді, сондықтан полкті толықтырушылар Алматы, Семей облыстарының еңбеккерлері болды. Бұл полктің командирі азамат соғысына қатысқан Ә.Жанкелдиннің досы Толесін Әлиев, комиссары Катков, штаб бастығы Никифоров, Борисов болды, Кейіннен полк командирі Александр Лучинский, комиссарлары Истамбеков, Омельченко, соңғы жылдарда Нұрхан Мусин тағайындалды. Штаб бастығының көмекшілері Байке Тыштыбаев, Орынтай Саурықов, Хусайын Меңдіғалиев, Кәрім Әсенов, Янышев болды. Полк клубының меңгерушілері Сатыбалдиев пен Мырза Жанков болды. Полк үгітшісі Сатыбаев Фазыл, полк командирінің көмекшілері Ганженко, Озимин, Бейсенбаев Сейітқали болды. Партия ұйымының хатшылары Жангудинов, Бекбаев, Баймолдин, Есқайыр Қожақметов болды. Полк дәрігерлері болып Арганчеев Шәміл, Макиров Қуаныш, Губанов, Иван Транклевский қызмет істеді. Комсомол ұйымының хатшылары Жетпісбаев, Тұрсынов, Ибраев болды. Олардың ішінде Балтабек Жетпісбаев ерекше көзге түсті, ол жауынгерлік және оқу жаттығуларында басқаларға айтарлықтай үлгі болды. Полк Қытайда бір жылға жуық болып, өзінін иитернационалистік борышын өтеді де, Алматыға оралды. 1938 ж. 8 наурыздағы мәлімет бойынша қазақ атты әскер полкінің сан құрамы мынадай болды. Тізім бойынша саны — 60 командир, 573 қызыл әскер, қазақтар саны — 415.
1930 ж. аяғына қарай Қызыл Армияның жауынгерлік қуаты өсті, қару-жарақтың саны өсіп, сапасы жақсарды, ұйымдық құрылымы мен жауынгерлік дайындығы әжептәуір жақсарды, Қызыл Армия жабдықтаудың территориялык жүйесінен экстерриториялық, кадрлық жүйесіне толык көшті. Ұлттық құрылымдар өз территориясына бекітілген еді. Бұл жауынгерлер мен бөлімдердің әр түрлі табиғат жағдайлары мен жауынгерлік жағдайда соғыс әрекеттерін жүргізуге дайын болуына кедергі келтірді.
Ұлттық бөлімдерде әскери істі оқып-үйрену, басқару жұмыстары ұлттық тілде жүргізілді. Сонымен қатар қызыл әскерлердің командалық бұйрықтарды орыс тілінде үйрену ісі де жүргізілді. Мұның бөрі жауынгерлерді үйрету және тәрбиелеу процесін күрделеңдіріп жіберді және ұлттық құрылым-дар тілдерінде жарғылар мен ережелер жасауды қиындатты.Қару-жарақ және басқа жауынгерлік техниканын күрделенуіне байланысты жеке құрамды жауынгерлік дайындықтан өткізудің маңызды шарттарының бірі әскери оқуды бір ғана жалпы ұлттық тілде өткізу қажет болды. Орыс емес ұлттар халықтарының орыс тілін меңгеруін заман талап етті, бұған көп ұлтты Кеңес Қарулы Күштерін одан әрі нығайту ісі де мүдделі еді. Ұлттық бөлімдерде офицерлер құрамынын қызмет бабында өсуі тек полк, дивизия шегінде ғана еді, бұған командалық-басқару құрамындағылар наразы болды. Жоғарыдағы жағдайларға байланысты ВКП (б) Орталык Комитеті және КСРО Халық Комиссарлар Кеңесі 1938 ж. 7 наурызда «Жұмысшы-шаруа Қызыл Армиясының ұлттык құрылымдары мен бөлімдері туралы» каулы қабылдады.