1927年8月7日,中共中央在湖北漢口召開的緊急會議,會議批判和糾正了陳獨秀右傾機會主義錯誤,確定了土地革命和武裝鬥爭的總方針。根據「八七」會議精神,中共陝西省委於1927年10月和1928年5月先後組織了「清澗起義」和「渭華暴動」。失敗後,中共陝西省委為加強對武裝鬥爭的領導,於1928年秋任命劉志丹為陝北特委軍委書記,謝子長為軍委委員。
劉志丹
劉志丹、謝子長利用北伐戰爭時期的老關係,於1929年秋打入寧夏軍閥蘇雨生部。他們藉此機會,將一大批共產黨員和團員安排到蘇部,成立了學兵隊,建立了黨的特別支部,為黨培養了一批軍事幹部。
1930年春,蘇雨生失敗,劉志丹、謝子長又來到慶陽三道川(今屬吳起縣),打入隴東民團軍司令譚世麟部掛名建軍。五六月間,被謝子長派往後湫殿民團楊庚武部做兵運工作的閻紅彥等人,將該部周維琪營300餘人槍拉出,在三道川與劉志丹部會合,編為直屬第三團,謝子長被任命為團長,劉志丹為副團長。由於投靠譚世麟的土匪張廷芝收買周維琪共同叛襲,劉志丹、謝子長逃脫,馬錫五被捕,兵運活動再告失敗, 史稱「三道川事件」。
1930年9月,隴東民團軍司令譚世麟為擴充自己的勢力,仍請劉志丹擔任其騎兵第六營營長,並指示合水縣太白鎮的民團軍第二十四營予以協助。10月1日,劉志丹等以商借糧草為名,在「聯歡」活動中將二十四營營長黃毓麟、副營長王鳳珠擊斃,繳獲該營一連全部槍械彈藥,並擊潰二連。部隊轉移途中,又捉住了該營三連連長馬建有,將三連槍支和馬匹全部繳獲,這就是有名的「太白收槍」。這一軍事行動奠定了陝甘邊革命武裝鬥爭的基礎。太白收槍後,劉志丹利用既得的武器,建立了一支40多人的游擊隊,群眾稱他們是「劉志丹游擊隊」或「南梁游擊隊」。
1931年8月,劉志丹在早勝遭到與蘇雨生勾結的高廣仁的襲擊並遭扣押。他趁夜裡大雨脫身後,又會同馬錫五來到平定川倒水灣楊培盛游擊隊的駐地,並派人通知趙連壁、賈生財率部前來會合。部隊會合後共300多人,整編為3個大隊,這是中國共產黨獨立領導的隴東第一支革命武裝。