他得知兗州（今陜西延安）失守，於是自告奮勇去鎮守邊境，宋仁宗任命他為郎中兼兗州知事。在範仲淹上任之前，這裏的軍隊數量是根據軍銜決定的。比如總經理帶壹萬人，錢帶五千人，都是三千人。如果敵人進攻，下級軍官將帶領部隊首先迎敵。至於遇到敵人的將官是否稱職，並不重要。針對這種不合理的情況，範仲淹明確指出，選擇迎敵的將領不考慮自己的能力，而只是根據官位的大小來安排出兵的順序，這是輸掉戰鬥的原因。他到達後，將州兵聚集在壹起，共有1.8萬人，然後將他們分成六個，每個將軍帶領三千人訓練他們。
如果敵人進攻，他會根據入侵敵人的數量派兵迎敵。第二年正月，皇帝命令範仲淹主動出擊。範仲淹並沒有盲從，而是根據兗州的實際提出了正確的對策。範仲淹向皇帝報告:正月長城外很冷，下了大雪。此時，我軍很難隱藏和暴露。當春天溫暖的時候，當敵人又瘦又餓的時候，我們很容易通過出兵取得勝利。他進壹步提出，漳州（今陜西富縣）和兗州靠近西夏，是羌人的必經之路。我希望暫時留在原地，讓他用善意取悅他。如果我們貿然出兵，與羌人建立的聯系可能會被切斷，因此這壹地區的穩定將遙遙無期。他建議先攻占隋、彜等地，占領要點，讓茶山、衡山壹帶的百姓歸附。宋仁宗聽取了他的建議。果不其然，當地的羌族和漢族人都定居了下來。
範仲淹是將軍，命令明確，獎懲分明，愛護士卒。邊境上有壹名警察，他和當時的議會代表富弼壹起帶領部隊抗擊敵人。皇帝賞給他壹百兩黃金。範仲淹並沒有將這筆財富據為己有，而是全部分給了隨他出征的士兵。
在軍事上，範仲淹與另壹位學者、軍事家韓琦齊名，被稱為“韓範”。但範仲淹卻能審時度勢，根據實際情況決定用兵策略。壹次他和韓琦領兵到前線，韓琦決定立即分兵五路進攻，範仲淹駐紮在慶州，認為他不應該立即進攻。當時擔任周琴判官的朱茵奉韓琦之命來到慶州，請求範仲淹壹同出兵。範仲淹對朱茵說:我軍剛剛打了敗仗。我們怎樣才能帶領我們的部隊深入呢？從敵我雙方的事實來看，如果我們立即發動戰爭，我們的軍隊只會被打敗。因此，現在不是與敵人作戰的時候。朱茵聽了嘆了口氣，妳不如韓公。漢宮說:用兵時，要把勝敗放在壹邊。現在看來妳太謹慎了，這是妳不如韓宮的地方。
範仲淹回答說:軍隊壹動，就會影響數百萬人的生活。我真的不知道如果我把結果放在壹邊，我怎麽能這樣戰鬥。朱茵無法說服範仲淹，不得不回去工作。韓琦沒有聽從範仲淹的建議，率兵進攻。結果袁浩遭到伏擊，全師被困，任福將軍戰死。當韓琦率領殘兵敗將返回時，有多達數千名陣亡士兵的父親、兄弟、妻子和孩子停在韓琦面前嚎叫。這些人拿著死者穿的衣服，燒了冥幣，哭著說:妳和招募者出去了，現在招募者回來了，但妳不幸被殺了。如果妳的靈魂知道路，妳能跟隨召喚回來嗎？哭聲震動了大地。韓琦也淚流滿面。範仲淹得知後感嘆道:此時，勝負難分！
範仲淹主政與西北少數民族相鄰的益州、兗州、荊州、慶州四地。因為他的治理有方，百姓才能安居樂業，所以他深受這些地方百姓的愛戴。尤其是羌人，對他非常尊敬。因為範仲淹以龍圖閣學士的身份被任命為這些地方的行政長官，羌人尊稱他為“龍圖閣老子”。