桓車騎在荊州，張玄為侍中，使至江陵，路經陽岐村，俄見壹人，持半小籠生魚，徑來造船雲：“有魚，欲寄作膾。”張乃維舟而納之。問其姓字，稱是劉遺民。張素聞其名，大相忻待。劉既知張銜命，問：“謝安、王文度並佳不？”張甚欲話言，劉了無停意。既進膾，便去，雲：“向得此魚，觀君船上當有膾具，是故來耳。”於是便去。張乃追至劉家，為設酒，殊不清旨。張高其人，不得已而飲之。方共對飲，劉便先起，雲：“今正伐荻，不宜久廢。”張亦無以留之。

　　桓玄出射，有壹劉參軍與周參軍朋賭，垂成，唯少壹破。劉謂周曰：“卿此起不破，我當撻卿。”周曰：“何至受卿撻！”劉曰：“伯禽之貴，尚不免撻，而況於卿？”周殊無忤色。桓語庾伯鸞曰：劉參軍宜停讀書，周參軍且勤學問。”

　　初桓南郡、楊廣共說殷荊州，宜奪殷覬南蠻以自樹。覬亦即曉其旨，嘗因行散，率爾去下舍，便不復還。內外無預知者，意色蕭然，遠同鬥生之無慍。時論以此多之。