與河東衛遂忠交厚。

衛遂忠好學，頗有辯才。有日酒酣之後，到來俊臣家中作客。

當時來俊臣與妻子家人設宴聚會，禁令外人打擾，守門衛遂謊稱家主外出，不在家中。衛遂忠知其說謊，便乘酒硬闖進府，繼而登堂入室，將來俊臣謾罵羞辱一頓。

來俊臣如何忍得這般羞辱？便使人毆打衛遂忠，並將其反綁起來，欲送入制獄。

其妻相勸，遂解縛釋之，來、衛二人自此結仇。

來俊臣仗恃女皇恩寵，漸漸不知天高地厚，又欲羅織罪名誣告武氏諸王，以及太平公主。更欲同時誣告皇嗣李旦及廬陵王李顯，說其二人將與南北衙禁衛軍一同謀反。

衛遂忠發覺其謀，便來個先下手為強，便寫密書投於銅匭，告發來俊臣非但謀反，兼且欲圖顛覆李、武兩氏宗族。

武氏諸王及太平公主聞此懼而且怒，於是就此聯手，共同揭發來俊臣罪狀。

來俊臣既犯眾怒，武皇再也庇護不得，只得命將其交付有司，下於制獄。來俊臣雖然鞠審他人時手段酷烈，輪到己身卻毫無骨氣，未經動刑但將由來所犯罪惡全部招承。

因所犯人命至眾，以至有時自己亦記不清楚，以至張冠李戴，果然是罄竹難書。

有司得其罪狀，實在無可迴護，於是依律判處死刑。

武則天見其罪狀，也自心驚，但念其為自己除滅政敵大功，猶欲法外開恩，予以赦免其死。故而請刑奏章送上三日，仍不批覆。

內史王及善奏道：來俊臣兇殘狡猾，貪婪暴虐，信用屠夫商販宵小，誅殺名德君子。實乃是國家大惡，若不除卻，必然動搖朝廷。

武則天雖以為然，但不能決。當遊覽宮廷園林時，吉頊牽馬，太后問以宮外之事。

吉頊因恨來俊臣入骨，趁機答道：外邊並無別事，眾大臣只覺奇怪，處死來俊臣奏章，因何遲遲不批覆也。

武則天道：來俊臣畢竟有功於國，我正思慮這件此事。

吉頊奏道：來俊臣聚集歹徒，誣陷良善，貪贓受賄堆積如山，被其冤死鬼魂滿路，是國之劇賊，陛下有何憐惜！

武則天終於意決，遂下詔旨，命處來俊臣死刑。

萬歲通天二年六月三日，來俊臣被斬於鬧市，陳屍示眾。當時觀者如堵，老少銜恨，爭相剮其肉以食，須臾肉盡。

武則天聞說此等盛況，方知民憤所積，委實不可小視，這才下詔明證其罪，覆命誅其全家，並籍沒家產。

來俊臣身死族滅，兩京士庶男女無不歡欣鼓舞，人們在街上遇到，必相互慶賀道：今後安眠，肩背可貼枕蓆矣。

當來俊臣掌權之時，吏部每次銓選，因受其囑託，皆有越級授官者，眾達數百人。至此來俊臣垮臺，吏部侍郎皆來自首。

武則天責之：你等何敢阿奉來俊臣，亂我吏治國法！

眾侍郎奏道：臣亂國法，只加罪自身；但若違俊臣意旨，立即滅族。

女皇聽罷暗自心驚，於是赦免侍郎之罪，又暗恨誅除來俊臣太遲，大礙自己政聲。

只因來俊臣倒臺，於是李昭德獲釋，免遭其害，並被升為內史。李昭德自謂譾除酷吏功臣，又復仗恃太后委遇，自長壽元年以來頗為專權使氣，朝中文武疾之。

前魯王府功曹參軍丘愔看不過眼，乃上奏疏：陛下天授以前，萬機獨斷。自長壽以來委任李昭德，參奉機密，獻可替否；事有便利，不預諮謀，要待畫日將行，方乃別生駁異。揚露專擅，顯示於人，歸美引愆，義不如此。臣觀其膽，乃大於身，鼻息所衝，上拂雲漢。常言道蟻穴壞堤，針芒洩氣。權重一去，收之極難，惟陛下詳之。

又有長上果毅鄧注，著《石論》數千言，專述李昭德攬權之狀；其後又有鳳閣舍人逄弘敏