项羽分封天下，陈平受爵称卿，继续在项羽身边供职，参谋军情，筹划献策。
汉二年三月，魏王魏豹加入刘邦阵营反楚，刘邦在张耳的协助之下，策反殷王司马卬成功，楚国为防止刘邦东进在黄河北岸所设的两道防线逐一瓦解。北征齐国的项羽得到消息后，封陈平为信武君，统领楚军中的旧魏军部队，全权处理殷国离反的问题。
殷国所在的河内地区，本来是魏国的领土，殷王司马卬是赵国的将军，因功被项羽封为殷王，立国的根基并不牢固。陈平是魏国人，他所统领的楚军中的旧魏军部队，是从东郡和砀郡征召的军队。东郡和砀郡，本来是魏国的领土，大分封时被项羽划归了西楚，由这两个地区征集的军队，不但与旧魏国有千丝万缕的联系，更有文化上的认同感。项羽任命陈平，出于范增的建议。范增一直看好陈平的智谋才干，他建议项羽说，用陈平统领东郡和砀郡的部队攻击殷国，乃是以魏将统领魏军攻击赵人所占领的魏土，最合适不过，项羽同意了。
陈平不辜负范增的期待，他以其人之道还治其人之身，也以军事威胁和外交劝诱双管齐下的方式，诱使司马卬再一次倒戈，回到了西楚阵营。平定了殷国的叛乱以后，陈平回到了楚国，项羽大为高兴，派遣项悍为使臣颁赐封赏，委任陈平为都尉，赐予黄金四百两。
然而，形势风云突变。陈平刚刚离开殷国，司马卬又一次易帜倒戈，宣布助汉反楚。刚刚封赏了陈平的项羽大为愤怒，下令严厉追究负责处理殷国问题的部将，陈平非常恐慌，担心被诛杀，于是将受封的印信和黄金封存，派人送还项羽，决意从此离开，单身一人，西去投奔刘邦。
史书上说，陈平前去投奔刘邦时，走小道仗剑急行。到了黄河边找到一条渡船坐上，渡船行驶到河中，船夫见陈平长得高大美貌，又是一个人，怀疑他是逃亡的将领，身上藏有珠宝金玉，眼中透露出杀气。陈平是机敏的人，察觉到了，于是解开自己的衣服，赤裸着上身帮助船夫划船，船夫由此知道陈平身上没有任何夹带，方才打消了杀人劫财的念头。
陈平渡过黄河，来到河内郡的修武县（今河南获嘉），当时，刘邦领军东进，大本营就设在这里，正广告天下，招收各国各路人才共同反楚。刘邦的谋士魏无知是信陵君的孙子，深得刘邦的信任，陈平与魏无知都是魏国人，往来相知，他通过魏无知求见刘邦，得到了召见。当时，一同接受召见的有十余人，由中涓石奋接受诸人的名谒，引领入内与刘邦见面，赐食共餐。共餐完毕，刘邦对被召见者们说：“诸位辛苦了，今天到此为止，请各归馆舍休息。”这个时候，陈平站起身来，施礼说道：“臣下有事而来，所要呈述的事情不可以过了今天。”
刘邦有些惊奇，于是延请陈平单独留下来谈。一席话下来，很中刘邦的意。刘邦高兴，问陈平说：“你在楚国，担任什么官职？”
陈平回答道：“担任都尉。”
于是，刘邦当天就正式任命陈平为都尉，同乘马车巡视军营，将掌管护军机构、负责监督各部将领的要务委托于他。一时间，汉军诸将哗然，不满的议论纷纷传到刘邦耳中：“大王刚刚得到一名楚国的降卒，还不到一天时间，也不知道有无本事，就同坐一辆马车，让他来监督我等老兵宿将！”
据说，刘邦听了这些话以后，愈发宠信陈平，东进攻楚的大事，也让陈平出谋参与。