唐玄宗与哥舒翰谈得十分投机,他让哥舒翰取代王忠嗣的位置,担任鸿胪卿、陇右节度支度营田副大使,充任陇右(今青海乐都)节度使。临别时,哥舒翰极言王忠嗣无罪,唐玄宗不听,转身离开,哥舒翰叩头跟随进言,言辞慷慨、声泪俱下。唐玄宗有感于哥舒翰的赤诚,明白了王忠嗣是冤枉的,终于高抬贵手,仅以阻挠军功的罪名将王忠嗣贬为汉阳(今湖北)太守。在这之前,唐玄宗曾因为同样的原因,毫不犹豫地杀掉了三个儿子,还有一个女婿,能够如此对待自己抚养过的王忠嗣,已经是非常难得了。经过这件事,朝廷上下对哥舒翰交口称赞,都认为哥舒翰侠义而勇壮。
天宝七载(748年),哥舒翰在青海建造神威城,吐蕃来攻,哥舒翰击败之,哥舒翰又在青海龙驹岛建造应龙城,吐蕃因此不敢靠近青海湖。
王忠嗣被贬以后,无人再敢忤逆唐玄宗开疆拓土的心愿,哥舒翰被委以重任后,当然知道自己该怎么办。他采取步步为营的方略,在青海(今青海湖)修建神威城,把尖刀伸到了吐蕃军的眼皮子底下,吐蕃人不甘受制,乘着大雪冰封,攻陷此城,唐军奋起神威,很快夺回了这座桥头堡。哥舒翰再建一座应龙城,与神威城互为掎角,在此城派驻了两千人,战争的主动权已经到了哥舒翰手中。唐军节节胜利,再次把目光投向了石堡城。
石堡城的地势极为险要,只有一条山路通往城中,雄伟坚固,易守难攻,一向为吐蕃军的前沿阵地。吐蕃控制此地可以极大牵制陇右唐军,唐朝控制此地则可以控制方圆数十里内的吐蕃军行动自由。正因为此地军事价值极高,吐蕃动用全国的力量防御石堡城。唐军多次试图夺回石堡城,都未能奏效,这次,唐玄宗势在必得,将朔方、河东等地十万多士兵统归哥舒翰指挥,以倾国之力,奔袭石堡城。