قصيدته التائية التي يقول فيها: [من الطويل]
وإني وتهيامي بعزّة بعد ما ... تسليت من وجد بها وتسلّت
لكالمرتجي ظلّ الغمامة كلما ... تبوّأ منها للمقيل اضمحلّت
وكان لكثير غلام عطار في المدينة، وربما باع نساء العرب بالنسيئة، فأعطى عزة-وهو لا يعرفها-شيئا من العطر، فمطلته أياما، وحضرت إلى حانوته في نسوة، فطالبها فقالت:
حبا وكرامة، ما أقرب الوفاء وأسرعه، فأنشد متمثلا قول سيّده كثير: [من الطويل]
قضى كل ذي دين فوفّى غريمه ... وعزّة ممطول معنّى غريمها
فقال له النسوة: أتدري من غريمتك؟ قال: لا والله، قلن: هي عزة، قال:
أشهدكن الله أنها في حل مما لي قبلها، ثم أخبر سيده بذلك، فقال: وأنا أشهد الله أنك حر لوجهه، ووهبه جميع ما في حانوته من العطر، وذلك من عجائب الاتفاق.
وأغرب منه ما يحكى: أنه لما عزم عبد الملك للسير لمحاربة مصعب بن الزبير ..
ناشدته زوجته عاتكة بنت يزيد بن معاوية: ألا يخرج بنفسه، وأن يستنيب غيره في حربه، وألحت عليه في ذلك، فلم يوافقها على ما سألت، وصمم على المخرج، فبكت حتى بكى من كان حولها من حشمها، فقال عبد الملك: قاتل الله ابن أبي جمعة-يعني كثيرا-كأنه رأى موقفنا هذا حيث قال: [من الطويل]
إذا ما نبا للغزو لم تثن عزمه ... حصان عليها نظم درّ يزينها
نهته فلما لم تر النهي عاقه ... بكت فبكى مما شجاها قطينها
ثم خرج عبد الملك فواجهه كثيّر، فقال: إنّه-أي: ذكرت الآن-يا بن أبي جمعة، أتدري لماذا؟ قال: أظن أن عاتكة عذلت عن هذا المخرج، فلم تصغ لقولها، فبكت حتى بكى حشمها لبكائها، فذكرت قولي، وذكر البيتين ... فقال: قاتلك الله، كأنك كنت معنا!
ويروى: أن عزة دخلت على أم البنين ابنة عبد العزيز بن مروان، أخت عمر بن عبد العزيز، وزوجة الوليد بن عبد الملك فقالت لها: أرأيت قول كثير: [من الطويل]
قضى كل ذي دين فوفى غريمه ... وعزة ممطول معنّى غريمها
ما كان ذلك الدين؟ قالت: قبلة وعدته بها ثم خرجت منها، فقالت أم البنين: أنجزيه