可以这么说，在朱元璋成为皇帝的前后，刘伯温不仅为朱元璋运筹帷幄，决胜千里之外，而且帮助他立纲陈纪，为大明帝国的开国奠基做了极大的贡献，此二人的关系非常和顺，为了表达对刘伯温的感激和对他工作的肯定，朱元璋没忘给他加官进爵，封他为御史中丞兼太史令。不仅如此，还要追封刘伯温的祖上三代。而此时的刘伯温并未利欲熏心，一方面由于自己到了知天命的年纪，看透了人间世事，另一方面，他非常娴熟儒家思想和道家理论，因此就没有像李善长那样贪婪，更不可能像胡惟庸那样胡作非为，面对荣誉与名利，他都婉言谢绝了。好在朱元璋并未强行，而是在重赋江南时却对刘伯温家乡的税收实行减半。
虽然朱元璋并没让刘伯温出任宰相，但在大明开国前后，朱刘关系还是相当不错的，那么后来究竟发生了什么事情使得两人闹掰的呢?
刘伯温
二人关系恶化主要来自三大时事件：
刘伯温与朱元璋之间关系的第一次缝隙——明初“李彬案”
洪武元年，徐达率领大明军北伐节节胜利，朱元璋赶赴汴梁，去考察作为都城的可能性，走前将南京城托付给了刘伯温和李善长共同管理。其中李善长管理日常政务，刘伯温负责监察官场风气，鉴于“宋、元宽纵失天下，今宜肃纪纲”，刘伯温下“令御史纠劾无所避，宿卫宦侍有过者，皆启皇太子置之法，人惮其严”。
可就在这个档口，中书省都事李彬将李善长搬进新宰相府后空出来的老宰相府改造成了一个高档娱乐场所，再让从张士诚那里弄来的美女做三陪，进行权色交易和买官卖官。这个案子就叫“李彬案”，表面上看并不复杂，但实际背景却很复杂，李彬与李善长家公子关系是很铁的，又是李善长的心腹，跟李善长的红人胡惟庸关系也很亲密。
尽管台前人物李彬卖官鬻爵做的很隐秘，但还是给刘伯温知道了，他决定一查到底，并将结果发加急书信给朱元璋，请示如何处置。朱元璋下令：“杀”，这时候，李善长走出来了，为李彬说情，刘伯温向来严格执法，不肯通融，李善长只好找其他办法，当时南京地区出现大旱，古人迷信，李善长就以此为借口，请求刘伯温暂缓对李彬行刑，可刘伯温不买账，还是处决了李彬。
李彬也嘴硬，到死都没将这个腐败案中的其他人招出来，李善长逃过了一劫，但从此刘伯温跟李善长结下了梁子，《明史》说，朱元璋回到南京后，李善长为首的淮右集团不断地向朱元璋告状，说刘伯温如何不好，如何霸道，借着皇帝的名望，任意胡来，告状的人多了，老朱也就分不清是非，于是人们看到，朱元璋并未深究李彬案，而是大加斥责刘伯温的不是。
这次裂隙尚未愈合时，第二次缝隙又不期而至了。
朱刘二人隔阂扩大——刘伯温第一次“天灾人事”预言失败
朱元璋很迷信，尤其相信天人感应，堪舆界老司机刘伯温也特自信，相信自己每次推算都很正确、很灵验，这种高级迷信其实没啥正确率，但有一定的巧合性，如果有一两次应验也算正常，时间一长，自然会毛病百出，预测者与听者之间难免引起误会与矛盾。
明朝开国时的几次灾害都让刘伯温算准了，但对接下来的这次旱灾，刘伯温就没那么好的运气了。话说当时天下大旱，朱元璋找到刘伯温，让他算算是咋回事，在经过一番观测后，刘伯温说：“旱灾原因有三：一、死亡将士的妻子们全被另行关着，人数约几万，阴气太重;二、南京的工匠死亡太多，并有许多尚未入殓;三、张士诚方投降来的将士不该编入军户，有违和气。”朱元璋一向很佩服刘伯温的神机妙算，这次听完他的指点后就一一纠正前失，该抚恤的抚恤，该赦免的赦免。
但老天照样是大旱不止，未曾下雨，这将朱元璋惹恼了，恰恰此时，刘伯温得罪过的那群人又蠢蠢欲动，逮住机会攻击刘伯温，由此朱元璋与刘伯温的矛盾更加深了。
第三次隔阂的增大——“营建中都”的争议
由于文人的敏感，刘伯温感觉到了自己在朱元璋眼里地位的变化，便想及早脱离朝廷这个是非窝，碰巧时年60岁的刘伯温的妻子去世了，他借口回家奔丧，向朱元璋提出要归隐老家，从史书看，朱元璋似乎也没执意挽留他，临走前，刘伯温向朱元璋道别，顺便不忘规劝皇帝注意两件事：第一，“凤阳虽帝乡，然非天子所都之地，虽已置中都，不宜居”;第二，明军在与元朝残余势力交战时千万不可轻视王保保部队，但刚愎自用的朱元璋并没听进去。
回家后的刘伯温心灰意冷，情绪低落，葬了妻子后，打算安度余生了。谁知，没几天，朱元璋却急吼吼的召他回京，之所以召回刘伯温，一来是由于朱元璋在营建中都凤阳的事情上出了麻烦，二来是由于徐达在与蒙元王保保交战时吃了败仗。这时，朱元璋如梦初醒，觉得刘伯温真了不起，都给说中了，于是让刘伯温速速返朝，甚至给刘伯温加官进爵，但被其婉拒。
不久，朱元璋想罢免宰相李善长，便跟刘伯温商量宰相人选，在否定了胡惟庸和杨宪后，朱元璋想让刘伯温出任宰相，没想到遭到拒绝，而刘伯温说话也有些过头，什么我这个人嫉恶如仇，就算李善长被免了，朝中还有恶人和坏人，难道我大明就你刘伯温是君子?刘伯温的话并没给朱元璋留下好印象，而事后刘伯温的运气似乎一直不好，处境更不妙。
于是刘伯温又请求归隐乡里，朱元璋又同意了，但刘伯温算了一辈子，却没算到自己晚年的遭遇。正当他在老家颐养天年时，突然被人陷害。
