安禄山起兵南下到了槁城(今河北槁城),颜真卿一时无力抵抗，只好与长史袁履谦前去迎接，安禄山赐予他紫袍，赐袁履谦绯袍，并把他的一个儿子作为人质随军南下。
在返回常山的途中，颜真卿指着所赐章服对袁履谦说：“我与你为何穿此服?”袁履谦明白了他的意思，遂秘密准备起兵。颜真卿从此称病不治理郡事，暗中却与袁履谦、真定令贾深、内丘令张通幽谋划方案，又让其子颜泉明往返于各地联络，并与太原尹王承业取得了联系。
天宝十四年(755)十二月，朔方节度使郭子仪奉命率军东下，击败了进犯振武军(今内蒙托克托)的叛军大同军使高秀岩部，又乘胜东进，攻下静边军(今山西右玉)。
郭子仪命左兵马使李光弼、右兵马使高溶、左武锋使卜固怀恩等将击溃了前来进犯的大同兵马使薛忠义部，坑杀其骑兵七千余人。
接着，郭子仪派兵包围了云中(今山西大同),另派将领公孙琼岩率二千骑兵攻克军事要地马邑(今山西朔县东北),又打开了雁门东陉关(在今山西代县)。至此，解除了大同叛军对河东太原的军事威胁，为官军进兵河北扫清了道路。
颜真卿认为起兵时机成熟，既可开井陉口，迎接官军，又可牵制安禄山主力军西攻长安，遂决定起兵。这时安禄山派金吾将军高邈赴幽州征兵，尚未回来，颜真卿以安禄山之命召驻守土门的李钦凑及其将领来常山受犒赏。