嘉泰四年（1204年），也就是朱熹逝世后的第四年，黄榦调任浙江嘉兴府石门酒库务监。
酒库务监是一个很小的官职，相当于后来的专门收酒税的税务所长。以前的石门酒库律己不严、管理松垮，导致酒税苛重，业主纷纷歇业，市场萧条。
据《石门县志·名宦传》（光绪版）记载，黄榦在石门“躬亲纤悉，寒暑不懈，岁入裕如”。黄榦到任后，不以官小职卑为推托，而是勤于职守，严于律己，事无巨细，悉必躬亲，即使是隆冬烈暑，也不避惮，有人说：“这些都是一些琐碎的小事，何必自己去做呢？”黄榦笑着说：“公家事何分大小？”此时，他揭露库吏勾结奸商“公造私酒”的恶劣行径，端正了官场徇私舞弊的不正之风。
在黄榦的管理下，石门酒业得以恢复和发展，税收也大幅提升，“岁入沛然”。辛弃疾当时是吏部侍郎，见黄榦才学超人，却只做酒库务监这样的小官，很是感慨：“是为委吏乘田者也。”委吏相当于现在的仓库保管员，乘田相当于现在的农牧技术员，孔子曾在季大夫家做过这两项工作。辛弃疾说这句话，既是感叹黄榦大材小用、世道不公，也是称赞黄榦不计名利、勤于职守。
黄榦在任石门酒库务监期间，曾作《石门酒库器铭》。
磨铭：上动下静象天地，前推后荡象六子。昼夜运行命不已，精粗纷纶物资始。君子省身盍顾，无小无大亦一理。
榨床铭：责酒清易，责人清难。智者于酒，可以反观。
陶器铭：一线之漏，足以败酒。一念之差，得无败所守乎？
烧器铭：厚其耳，广其腹。厚故胜，广故蓄。绵薄任重，只以覆其。
升铭：凡物之理，不平则鸣，不足则慊，太溢则倾。谁谓剖斗而民不争？其取也，宁过于啬，其予也，宁过于盈。是又所以为不平之平乎？
这些铭文，言简意赅，富有哲理，既是他对别人的警勉，更是自己为人处世、为官理政的真实写照。其中“责酒清易，责人清难”“一念之差，得无败所守乎”“厚故胜，广故蓄”“不平则鸣，不足则慊，太溢则倾”等语，直到今天，仍有着现实的教育意义，人们常用来作为立身处事的座右铭。
对于黄榦及其《石门酒库器铭》，后人评价很高，清代学者严辰在《桐乡县志》（光绪版）中说：“考亭高弟，辅黄齐名，桐邑皆有遗迹可寻，足为杨园之先导矣。”考亭指以朱熹为首的考亭学派；辅即辅广，宋代大儒，入礼孔庙；杨园即清初的理学大儒张履祥。清代诗人施钟成在《玉溪杂咏》中也有诗赞：“断碑爱惜碎文章，贤士卑栖也不妨。难望勋铭五熟釜，自家评点到壶觞。”
两浙运判詹徽之深感黄榦是一个难得的人才，说：“我们大宋就是要像黄榦这样的人，国家才会有希望，失地才能收复回来！”并强调，黄榦仅仅任一个酒监未免太屈才了，遂以其“存不矜之心，为有用之学，屈在管库，未究所长”为由，荐之于朝。这时，权奸韩侂胄欲以北伐金人来巩固他所窃取的高位，遂以吴猎为荆湖北路安抚使。吴猎征求黄榦对战局的看法，黄榦认为不宜仓促用兵，说：“现在如果实施大举北伐的打算，必然会失败。”吴猎素来敬重黄榦的名德，于开禧二年（1206年）五月将其辟为府中幕僚。
随着局势的发展，果然不出黄榦所料。大宋军队北伐拉开序幕后，在初战得到几次小胜之后，不久，淮北及西路诸军均节节败退，金兵挥师渡淮南下，与宋军形成对垒相持的局面。于是，当初极力主战的韩侂胄又急忙遣使议和。开禧三年十一月，这个在庆元年间兴风作浪、陷害和打击道学人物的权奸被史弥远诛于玉律园；而史弥远则取代韩侂胄成了当朝宰相。
接下来，史弥远与北方金朝签订“嘉定和议”。其后，国事日非，军政不修，百事废弛，而中产以下，则“破荡流移”。出于政治上的需要，史弥远有意推崇并逐步起用了一些道学人物。
这时，正好江西提举赵希怿、抚州知州高商老同时荐举黄榦，认为他“禀资公正，律己廉勤，使宰百里，绰有余才”。于是，史弥远顺水推舟，黄榦由此当上了江西临川知县。
嘉定元年（1208年）正月，黄榦来到临川县任上。临川地广民众，号称难治，四十余年无贤令尹，以至积讼成山。黄榦到任后，“每日裁决，观者如堵”。黄榦剖决如流，每决一事，众皆叹服。据《临川县志·名宦传》（同治版）记载，黄榦“每五鼓视事至午……逋租积讼委沓，未数月疏涤皆尽”。可见，他勤于政事，悉心为民，政绩卓著，官声日炽，当他改任新淦县令的时候，临川百姓怅然若失，“如失父母”。
嘉定二年，临川遇上旱荒和蝗灾，民难于食。黄榦为之平粮价，宽征敛，最终民赖以安。尽管公务繁忙，他还是经常抽空到郡学讲述朱子学思想，阐发大道之源。黄榦以“四德四端之要”为题讲解和传播朱熹的理学思想，叙述“天地之间亦具元亨利贞之德，为仁义礼智之性”。据记载，黄榦公事忙完，“则与弟子何基等讲论，至夜乃罢”。
此外，黄榦所到之处，“以重庠序，先教养。即郡治后凤栖山为屋，馆四方士。立周、程、游、朱四先生祠”，他撰写《徽州朱文公祠记》《鄂州州学四贤堂记》，阐明朱熹集宋代理学之大成。这年三月，临川郡学建成，广收门生，黄榦写有《临川郡学讲义》。
由此可见，黄榦民本思想深受朱熹的影响，他说：“公平正大者先生之心，刚毅勇决者先生之气，严威俨恪者先生之容，精深广博者先生之学。”朱熹去世后，黄榦继续发扬其变革社会、为民请命的作风。
嘉定五年五月，黄榦被调任江西新淦县令。新淦民众得知黄榦在临川的政绩，听说他的到任，到处奔走相告，欢声不止。
据《新淦县志·名宦传》（同治版）载，当百姓得知黄榦来知新淦，“吏民习知临川之政皆善，不令而政行”。不令而政行，这是黄榦春风化雨的恩德。他在任期间，“尽心毕力，穷究弊源”，抚恤困穷，不畏强御，经理财赋纲运，整办理断民讼，人罕再诉。
值得一提的是，黄榦在新淦任上期间，还与当地豪强谢知府家族进行不屈不挠的斗争。谢家乃一方豪强，为非作歹、霸占农民田产，在处理这一案件的过程中，黄榦强烈的正义感和恤民思想一览无遗。我们从他写的一首《食竹䶉》可知，诗云：
北山何嗟峨，猛虎之所藏。
咆哮一震怒，百兽不敢当。
有竹山之阿，挺挺青琳琅。
威凤鸣且栖，众鸟空回皇。
彼䶉独何为，莫夜争跳踉。
钻山窟穴深，啮竹根本伤。
鼠腹涨彭亨，鸱怒独奋张。
谁知樵苏辈，叹彼枝叶黄。
锄耰捣其室，束缚登我堂。
遂令婉娈者，污此牙颊刚。
才质既不同，分守合有常。
曷不效尔曹，窃食仍循墙。
直节永萧森，庇此千仞冈。
黄榦在诗中营造了这样的一个场景：北面的山何其高峻雄伟，这是猛虎栖身的地方，它声震长空的怒吼，让林中百兽惊恐不已。山的凹曲处，有一片竹林茂密地生长着，青翠挺拔，轻风吹过，发出清脆美妙的声音。瑞鸟栖息在竹林里，它发出悦耳的鸣叫令众鸟彷徨不定、怅然若失。食竹鼠为什么在夜里跳跃喧闹，打通山墙，挖掘深深的洞穴，啮噬植物的根茎，破坏竹林的生长？吃饱喝足的竹鼠挺着大大的肚子，却不知道天上的老鹰正张开有力的翅膀要捕食它。那些打柴砍草的人感叹竹林的枝叶日渐萎黄，用农具捣毁竹鼠的巢穴，绑缚着它们来到公堂。这些看似柔顺者，有着坚硬的嘴巴。
每个人的资质有所不同，各有职分。何不效仿宵小之辈，窃食后便靠墙而行，鬼鬼祟祟的。黄榦对窃食者深恶痛绝，但却无法依法惩办。
新淦县一户人家，男主人亡故，其寡妻抛家弃子，回到娘家。开禧三年（1207年），这个寡妻将夫家的田地卖给了谢家。黄榦在审案时指出，寡妇不应抛弃子女，也不应出卖丈夫留下的田产。黄榦十分同情被抛弃的孤儿，他写道：“绝人之嗣，而夺其产，挟其妻以害其侄婿，此有人心者所不为也。”黄榦的倾向性非常明显，谢知府家族做了这样不得民心的事情，黄榦当然要向谢家人追索土地的契约。但最终却被无理拒绝。他只是一个小县令，未能在一次诉讼中战胜谢家，但黄榦已经开始留意谢知府家族在地方为非作歹、霸占土地的证据。
第二次诉讼的是，谢家强迫一户农民，将一块有四座祖坟的田地出卖。嘉定元年（1208年），谢家买下这块田地，和原告的侄子、一个未成年的小孩子签署了契约，在这种势力不均衡的交易中，很难让黄榦不怀疑谢家以权势胁迫贫穷百姓。然而，事发后谢家仍然拒不承认，仅还给原告一个小池塘，草草了事。
黄榦没能惩治谢家，但他并不气馁，暗中等待机会。此时，有17家窑户状告谢家违约，没有如期支付购买的1.3万片大砖的17贯钱，谢家人坚持他们只是购买了小砖瓦，并按照正常的价格付了钱，而窑户则说，卖的是大砖瓦，只收到一部分口食钱米。只是简单的一个案件，但黄榦依然被缚住手脚，无法执行判决，他无奈道：“赖人砖瓦，欠人钱物，岂得以为无罪？不应收禁？私家却得将人打缚，官司不得禁抑豪强之状，即此可见。”
功夫不负有心人，最终，黄榦在第四次的诉讼中贯彻了自己的判决，有力地打击了谢家，他命令谢家停止侵占地产。在这些诉讼中，黄榦最终以他的正直和正义赢得了胜利。
黄榦政事之余继续讲学，创办新淦（今江西省新干县）县学，并写了《新淦县学讲义》。当时朱熹的另一位门生杨楫任江西运判，延请黄榦讲学于隆兴（今南昌）东湖书院，黄榦为书院诸生讲解了《中庸》一书中的有关章句，阐释了朱熹集注此书的观点。
主战反和，收复中原失地，致力于社会改革，是黄榦在嘉定年间（1208—1224）从政的重要特点。他对当时积弱、腐败的国势充满忧虑。因为“蒙古有崛兴炎炎之势，金人有遁逃冲决之虞，群盗有分裂割据之忧，边民有乘时幸乱之意，一动则百变交起，其将何以应之”。他说：“今国势之弱甚矣，兵不素练，财不素蓄，人才不素养，举世之人，皆欲行其私，以肥其身，此何等气象！”他认为“和既不可，则其势不可以不战”。因而，黄榦在《与金陵制使李梦闻书》中曾提出“壮国势而消外侮”的主张，即大本不可以不立、大义不可以不明、己私不可以不克、人才不可以不收。而“大体既定，则凡所谋划无非为一战之计……不可以战者却之……然后先自朝廷进君子退小人，延纳忠谠之言，斥逐邪佞之语，凡前日苞苴奔竞之风，阿私朋比之习，严行戒饬，使朝廷清明，天人悦豫，然后有可以进取中原之实”。当时，主和派主张继续给予金人所索岁币，使其得以贿蒙古，而求得金、宋两国之安宁。黄榦即著《论岁币》，据理予以驳斥。
由于黄榦胸怀“壮国势而消外侮”之心，因而敢于正视现实，他针对社会流弊，积极谋求改革。先前在浙江嘉兴石门酒库任上，他就曾揭露库吏勾结奸商“公造私酒”，抨击“官酒既不发卖，而反自卖私酒”。在江西临川任上，他又力主弛沿河场务之费，以抑制坐蠹之害和盗粜之弊。在新淦县，他对这个江西“最为难治”的县着力进行整治，揭露该县胥吏勾结豪民，将职田作官田变卖，“遂使一千二百余亩之职田，一旦尽变而为豪民之田”。后来，在通判安徽安丰军任上，他亦不断整顿官司困民之扰。
嘉定六年（1213年）九月，黄榦因提举常平、郡太守的推荐，擢升监尚书六部门，但他没有上任，后又改差任安徽安丰军通判。
其间，黄榦极力整顿腐败吏治。
黄榦喜欢推理断案，从小耳濡目染父亲破案的过程，学会了不少的断案知识。黄榦常根据现场的蛛丝马迹，剥茧抽丝，排查出犯罪嫌疑人后，审清事实真相，缉拿凶手为民伸冤。《宋史·黄榦传》中还留下了他“托梦破案”的传奇故事。
不久后，宝谟阁学士利州路安抚使刘甲、兵部侍郎李珏均极力荐举黄榦，以为他“学有渊源，行有根本，忠孝窃于许国，信义长于使人。其材足以济繁难，其节足以临缓急”，并说“可当大任”。