哥舒翰喜欢读《左传》、《汉书》,轻钱财而重义气,士兵们都归服他。王忠嗣又任哥舒翰为大斗军副使,辅佐安思顺。王忠嗣曾经派哥舒翰到新城去征讨吐蕃。有个副将见哥舒翰时礼节傲慢,不听哥舒翰的指挥,哥舒翰就用木棒打死了人,军士凛然。哥舒翰被任命为左卫郎将。后来吐蕃来犯,哥舒翰苦拔海迎击敌军。苦拔海一战,吐蕃军分成三队,从山上接连冲下,哥舒翰持半段枪迎着吐蕃军的兵锋攻打吐蕃军,把三队吐蕃军都打败了,无不摧靡,因此而知名。
天宝六载(747年),哥舒翰被提拔为右武卫将军,充当陇右节度副使、都知关西兵马使、河源军使。此前,吐蕃每当麦熟的时候,就率部队到积石军收割庄稼,一齐呼喊为“吐蕃麦庄”,前后没有人敢抵御他们。哥舒翰就任后,派王难得、杨景晖等人暗中引兵到积石军,设埋伏等待吐蕃军。吐蕃的五千骑兵抵达,哥舒翰在城中率领骁勇战士骑马攻击,将吐蕃骑兵几乎杀尽,剩余的有些逃跑,埋伏的兵士半路拦截攻击,一匹马也没有回去。翰有个家奴名叫左车,年龄十五、六岁,有膂力。哥舒翰擅长使用长枪,追赶上吐蕃军后,用枪搭在他的肩上喝斥对方,吐蕃军惊恐回头,哥舒翰便用枪刺中其喉,都往上挑高三到五尺再落下,没有不死的。左车就下马斩首,主臣配合默契,成了常事。
唐玄宗晚年,依然极重边功。天宝六载(747年)七月,他让河西、陇右节度使王忠嗣攻打吐蕃据守的石堡城(今青海湟源西南),对此,王忠嗣却有自己的看法:“石堡城地形险固,吐蕃举国而守。攻下此城,肯定要死数万士兵。所得不如所失,倒不如休兵秣马,见机行事。”唐玄宗很不高兴,十月,唐玄宗派将军董延光攻打石堡城,下令王忠嗣出兵配合,王忠嗣不得已协助董延光,却没有全力以赴,石堡城到期未能攻克,董延光将责任尽数推到王忠嗣身上,这时,宰相李林甫也来落井下石。李林甫让王忠嗣从前的一个下属到京城告状,对王忠嗣进行诬陷,“我与忠王(后来的唐肃宗)从小一起长大,当拥戴他为太子。”唐玄宗大怒,将王忠嗣召回朝中,严加审讯。唐玄宗又征哥舒翰入朝,有人劝哥舒翰多拿一些金帛去营救王忠嗣,哥舒翰坦言,“如果正道尚存,王公一定不会冤死。如其正道将丧,多贿赂又有什么用。”于是只带一个包裹入朝。