王僧虔在孩童時,他的父親王曇首,曾和兄弟一同把子孫集合在一起,任憑他們游戲歡樂。王僧達跳到地上作小老虎。當時王僧虔連續下棋十二盤,既不墜落,也不重作。王僧綽采蠟燭珠做成鳳凰,王僧達奪過來把它打壞,也并不惋惜。伯父王弘嘆息說:“僧達俊爽,當不亞于別人,然而使我家破亡的,終究也是這孩子。僧虔一定會成為三公,僧綽當會以名聲受到贊美。”有人說王僧虔采燭珠做成鳳凰,王弘稱他為長者。
王僧虔二十歲時,很擅長隸書,宋文帝見到了他書寫的素扇贊嘆說:“不僅僅是筆跡超過子敬,而且典雅的風度也在他以上。”他當了太子舍人,退避沉默,很少交際。他和袁淑、謝莊要好,袁淑常常為他慨嘆說:“您文情鴻麗,學養深厚,卻掩藏光輝,使人不能窺見,即使是魏陽元的射箭,王汝南的騎馬,也無法超過。”調任司徒左西屬。其兄王僧綽被劉劭殺害后,親友們都勸他逃走,王僧虔哭著說:“我哥哥以忠貞報效國家,對我十分慈愛,現在的事情,只是苦于不能株連到我罷了。如果同歸于九泉之下,倒像是飛升成仙了。”宋孝武帝初年,王僧虔出京為武陵太守,帶去了各個兒子、侄子,哥哥的兒子王儉中途得病,王僧虔為他廢寢忘食,同行的賓客對他進行慰問開導。王僧虔說:“從前馬援處在子侄之間,情意一樣深厚沒有區別。鄧攸對于弟弟的兒子,更超過自己的親生,我實在也懷著同樣的心情,的確不異于古人。亡兄的后代,不能疏忽,如果這個孩子不能救治,就應當回舟辭職。”還朝后擔任中書郎,又調任太子中庶子。
建元二年(490年),王僧虔晉升左衛將軍,他堅決辭讓不接受。改任左光祿大夫,侍中、尹等職仍舊。郡縣的監獄中一直沿用的辦法中有一種是用中藥的湯劑殺死囚犯,王僧虔上疏齊太祖蕭道成說:“藥湯本是用來救病的,現在有人用它來實施暴行,甚至有人用它來泄私忿。如果犯人罪當重刑,則國家自有正當的刑法;如果說為了治病用醫也應事先啟奏上頭。豈有死生大事,由下面偷著處理的道理?我以為給囚犯治病,必須先打報告向郡里請示,找有關負責人和醫生共同會診確認;偏遠的縣份,則由家人來省視后,再作處理。這樣可以使死者不恨,生者無怨。”蕭道成采納了這個建議。
永明三年(485年),王僧虔去世。僧虔對星象也很精通,那天夜里他坐在那兒看到豫章上空的星域顯示該發生事故,當時他的兒子王慈正做豫章內史,僧虔便擔心他會在公事方面有麻煩。不多時,王僧虔便去世了,享年六十歲。王慈放下郡里的工作回來奔喪,朝廷追贈王僧虔為司空,謚號為簡穆。