刘粲登基两个月后，即公元318年9月，靳准发动叛乱，率军攻进皇城。此时正在后宫和几位太后淫乱的刘粲竟然痴痴地大呼：靳准何在？很快，在叛乱的人群中走出了靳准，只不过他的脸上不再是满脸堆笑，而是一脸的阴狠，他将刘粲谋害亲叔，忤逆不孝，残杀宗室等一干罪状一一宣布。
此时的刘粲方才大梦初醒，知道靳准不是来救自己的，而是送自己上路的。于是刘粲吓得赶紧跪倒在地，苦苦哀求靳准放他一条活路，只是此时的靳准哪里还饶得了刘粲的性命，像阎乐对待胡亥一般一刀了事。紧接着，他又在京城里进行了大清洗，凡是和刘氏皇族有关系的人员，全部予以铲除，无论老少。在刘粲的清洗过后，劫后余生的刘氏宗亲也没能逃过靳准的屠刀，在平阳的数百口刘氏宗亲全部被斩杀于东市，只有当初和刘曜一同入关作战的征北将军刘雅侥幸逃出。
杀人还不解恨，靳准随后又刨了刘渊和刘聪的皇陵，并把刘聪的尸体曝尸荒野，还一把火将匈奴汉国的太庙焚烧干净。刘聪不会想到，在他死后短短两个月的时间，自己就被人挖坟掘尸，而自己所创的帝国也会被此人弄得分崩离析。