刘基现在才明白，这是一次异常凶险的谈话，如果稍有不慎，就会人头落地！他马上回答：“杨宪有丞相的才能，但没有丞相的器量，不可以。”
但考验还远远没有结束，朱元璋接着问：“汪广洋如何？”
这是第二个陷阱，汪广洋并不是淮西集团的成员，朱元璋怀疑他和刘基勾结，所以第二个提出他。
刘基见招拆招，回答道：“此人很浅薄，不可以。”
朱元璋佩服的看了刘基一眼，这是个精明的人啊。
他说出了第三个人选，“胡惟庸如何？”
刘基松了口气，说出了他一生中最准确的判断：“胡惟庸现在是一头小牛，但将来他一定会摆脱牛犁的束缚！”
说完这句话，刘基松了口气，他知道考验已经过去了，但他错了，下一个问题才是致命的。
朱元璋终于亮出了杀着，他用意味深长的口气说道：“我的相位只有先生能担当了。”
大凡在极度紧张后，人们的思想会放松下来，刘基也不例外，他终于犯了一次错误，这次错误却是致命的。
他没有细想，回答朱元璋：“我并非不知道自己可以，但我这个人嫉恶如仇，皇上慢慢挑选吧。”这句话说得非常不合适，自居丞相之才不说，还说出所谓嫉恶如仇的话，如刘基所说，谁是恶呢。
刘基的昏劲还没有过去，又加上了一句话：“现在的这些人，在我看来并没有合适的”（目前诸人，臣诚未见其可也）。
朱元璋就此与刘基决裂。
至此之后，刘基不再得到朱元璋的信任，他虽明白自己地位不如前，但仍然坚持在朝中为官，为浙东集团撑台。但朱元璋不是那么好打发的。
洪武三年，朱元璋亲自下书给刘基，对他说了这样一番话，“你年纪这么老了，应该在家陪老婆孩子，何苦在这里陪着我呢。”
这意思就是，我要炒你鱿鱼，走人吧。刘基只好回到了乡下。
这时，浙东集团的另一干将杨宪失去了刘基的帮助，很快被淮西派排挤，本人也性命不保，被胡惟庸找个借口杀掉了。
在这场斗争中，淮西集团最终大获全胜。
刘基明白，自己失败了，他现在唯一的愿望就是好好在家养老，度此一生。可是在这场斗争中，失败的人是要付出代价的。
胡惟庸成为了丞相，他没有放过刘基，指使手下状告刘基，此时刘基已经没有官位，还能告他什么呢，但所谓欲加之罪，何患无辞，实在是至理名言。刘基的罪状是占据了一块有王气的地。所谓王气实在是个说不清的东西，说有就有，说没有也没有，只看你的目的是什么。
于是朱元璋再次下诏处罚刘基，官都没了，还罚什么呢？朱元璋有办法，他扣除了刘基的退休金。
刘基陷入了绝望，但他的智慧又一次发挥了作用，他没有在原地等死，而是出人意料的回到了京城。
这实在是很绝的一招，他明白，胡惟庸对付他的根本原因在于朱元璋，只要自己回到京城，在朱元璋的眼皮底下，让他放心，自己的性命就有保证。
但这次，他又错了。
洪武八年正月，刘基生病了，朱元璋派胡惟庸（注意这点）探视刘基，胡惟庸随身的医生给刘基开了药方，刘基吃了药后，病情越来越重，过了不久，就死去了。