在開國將軍之中，甘渭漢中將是出了名的講原則。甘渭漢在晚年不僅擔任過總政副主任，還擔任過軍中紀律檢查委員會的書記，他嚴守紀律，無論對方職務高低，關係親疏，他只講道理從不徇私情。
甘渭漢對自己和家人要求嚴格，他在工作中嚴於律己，在生活中對家人從不搞特殊，並且專門給家人定下了一條規矩，任何人，在任何時候都不準搞特殊，更不準打著自己的名義去占公家的便宜。
1971年，甘渭漢受影響離開工作崗位，直到1972年10月才重新恢復工作。期間他的長子甘淙原本是軍校畢業生，在軍中大有可為，可是受父親影響，在當時的環境下，甘淙離開了軍隊。
當甘渭漢恢復工作後，按照一般情況他可以要求為兒子恢復工作，但是他沒有這樣做，最終他的長子沒有回到軍中。至於甘渭漢的次子甘沛，他沒有參軍，而是成為了一名普通的科技工作者。
甘渭漢的小兒子甘治和女兒甘鴻雖然參軍了，但是職務並不高，他們從未沾光。值得一說的是，甘渭漢的女婿王小舟，在軍中服役多年，年近40歲時仍是副營職，也沒有沾光，他們都嚴格遵守了甘渭漢定下的規矩。
甘渭漢對子女和女婿如此，對親戚也是一樣嚴守原則，即便是親外甥也不例外。有一次外甥進城找甘渭漢幫忙，表示鄉里缺一台汽車，希望甘渭漢能幫忙弄到一個採購指標，哪怕是能採購一輛舊的也行。
聽了外甥的請求，甘渭漢毫不「講情面」地拒絕了，直言汽車採購的指標是統一分配，自己沒有辦法，部隊上的汽車需要以舊換新，也不能壞了規矩。講明原因之後，外甥只好悻悻離去。
沒想到過了幾年，外甥再次找到甘渭漢，這一次是希望甘渭漢能出門幫忙為妻子解決工作問題。原來外甥的妻子本是一名老師，後來負擔重便辭去了工作，如今鄉里落實政策，有了老師崗位。
外甥就想請甘渭漢出面寫個條子，這樣鄉里就能讓妻子繼續當老師。甘渭漢得知情況後，再次拒絕了。並叮囑外甥說道：「你們不要打我的牌子，如果發現了，我就不認你這個外甥。」
此事過去幾年後，外甥第三次上門求助，這一次他是想為鄉里建中學籌集26萬元。甘渭漢得知外甥來意非常高興和支持，並親自拿出500捐助建中學，同時他還鼓勵鄉里要自力更生，不能光想著伸手找國家。
1985年3月，上級批准了甘渭漢請辭，不過77歲的甘渭漢仍心繫老區的建設發展。同年秋，他前往井岡山一帶的老區調研，在江西樂安縣時受到了縣委書記的熱情接待，準備了一桌豐盛的酒菜。
沒想到甘渭漢當面對著這個女縣委書記發火了，他毫不留情地說：「我吃了這一桌菜，要爛肚腸的！」後來換上了普通的飯菜，甘渭漢才和大家一起坐下吃飯。1986年4月1日，甘渭漢在北京病逝，享年78歲。
