刘伯温的最终结局是 患病离世。刘伯温在洪武八年正月下旬感染了风寒，虽然朱元璋派胡惟庸带了御医去探望，并开了药方，但刘伯温在服用了御医的药后，病情并未好转。三月下旬，他已经无法自由活动，由儿子刘琏陪伴，在朱元璋的特遣人员的护送下，自京师动身返乡。回家后，他拒绝亲人和乡里为他找来的一切药石，只是尽可能维持正常的饮食。最终，刘伯温于农历四月十六卒于故里，享年六十五岁。
此外，刘伯温在临终前对儿子说：“我欲为遗表，惟庸在，无益也。惟庸败后，上必思我，有所问，以是密奏之。”这句话表明了他对胡惟庸的提防，并暗示了自己的结局与胡惟庸有关。