为削弱刘知远的权力，石敬瑭以防范安重荣为由，将他调出了京城，到魏州任职。
第二年，又将他调任河东节度使，并让杜重威接替他禁军统帅的职务。
刘知远知道石敬瑭开始猜忌他，到了河东之后，极力收拢民心，打算把河东变为他的根据地。
刘知远特意派人把当年打他的僧人请到府中，并对他们进行了热情的招待，感动得僧人们热泪直流。
从此，刘知远有度量讲仁义的美名传遍了河东，在军民心目中威望大增。而事实上，刘知远既不仁也不义，就像面相上所讲，刘志远为人冷酷狠毒，为达目的不折手段。
为了对付契丹人，他曾策动契丹境内的吐谷浑部归顺，然后请求朝廷任命其首领白承福为大同节度使，将其骑兵收入自己麾下。
后来，又担心白承福做大，诬陷白承福私通契丹，将白承福及其家族四百余人全部杀死，侵吞了他们的牲畜和财物。石重贵继位后，景延广把持朝政，
对契丹的态度开始强硬起来，虽然这跟刘知远的执政理念相同，但他并没有选择跟景延广合作，而是保存实力，静观其变。
在后晋跟契丹的三次大战中刘知远没有派出一兵一卒前去助战。
阳城大战时，他甚至渔翁得利，将打散的几千后晋士兵纳入自己麾下。此时，他已有五万之众，力量雄厚了，刘知远开始寻找时机，打算逐鹿中原。等到听说契丹已占据大梁，刘知远马上分兵四方，防备契丹侵袭。
又派客将王峻向耶律德光奉上三道表章：一是祝贺契丹进入大梁；二是因太原是夷、夏杂居共处之处，守防士卒屯聚，所以不敢离镇前往朝贺；三是本应献上贡品，但正值契丹将领刘九一的军队从土门西入屯于南川，太原城中人心忧虑恐惧，待召还此军，道路畅通，才可以送入贡品。
耶律德光虽对刘知远不爽，但此时无力对付河东，于是也假惺惺地赐予诏书，称赞表彰，待亲自审批诏书时，又在刘知远的姓名上加上“儿”字，以示亲近，并赐给木。
按照契丹人的传统。受礼遇优待的大臣，才能赐木。刘知远又派北都副留守白文珂献上名贵的丝织品和良驹给耶律德光。
耶律德光让他告诉刘知远：“你既不奉事南朝，又不奉事北朝，你打算等什么呢？”
手下人因此劝刘知远起兵，刘知远摆摆手说：“用兵有缓有急，应当因时采取合适的策略。现在契丹刚刚招降了晋国的十万兵马。像老虎一样雄踞着都城，形势没有其它变化，怎能轻举妄动呢！
现在观察他们所贪图的无非是钱财物品，钱财物品得足了，一定要向北回国的。况且现在冰雪已消，气候转暖，他们必然难以久留，应等他们退去，再去占领那里。才可确保万无一失。”
不久，听说石重贵将要被押往契丹，刘知远放出风声要出兵井陉，迎接石重贵。二月十一日，刘知远命令武节都指挥使史弘肇集合各军，宣布了出兵日期。
士兵们都说：“现在契丹攻陷京城，抓走天子，天下已经没有君主了。能够作天下君主的。除了我们北平王还能有谁！
我们应该先确定皇帝名号，然后再出兵。”现场群情激奋。争着呼喊“万岁”不止。