Rasulullah ﷺ mengutus sekelompok kaum Ansar kepada Abu Rafi' untuk membunuhnya. Maka salah seorang dari mereka berangkat dan masuk ke benteng mereka. Dia berkata: 'Aku masuk ke kandang hewan-hewan mereka.' Dia berkata: 'Mereka menutup pintu benteng. Kemudian mereka kehilangan seekor keledai milik mereka, maka mereka keluar mencarinya. Aku keluar bersama orang-orang yang keluar, menunjukkan kepada mereka bahwa aku mencarinya bersama mereka. Mereka menemukan keledai itu, lalu mereka masuk, dan aku ikut masuk bersama mereka. Mereka menutup pintu benteng pada malam hari, dan meletakkan kunci-kunci di sebuah ceruk yang dapat kulihat. Ketika mereka tidur, aku mengambil kunci-kunci itu, membuka pintu benteng, lalu masuk menemuinya dan berkata: 'Wahai Abu Rafi'. Dia menjawabku. Aku mengarahkan pukulan ke suaranya dan memukulnya. Dia berteriak.
Maka aku keluar, lalu kembali, lalu kembali lagi seolah-olah aku seorang penolong, dan berkata dengan mengubah suaraku: 'Wahai Abu Rafi'. Dia berkata: 'Ada apa denganmu? Celaka engkau!' Aku berkata: 'Apa yang terjadi padamu?' Dia berkata: 'Aku tidak tahu siapa yang masuk menemuiku dan memukulku.' Kemudian aku meletakkan pedangku di perutnya, lalu aku menekan sampai menembus tulang. Kemudian aku keluar dalam keadaan bingung.
Aku mendatangi tangga mereka untuk turun, tetapi aku jatuh dan kakiku terkilir. Aku keluar menemui sahabat-sahabatku dan berkata: 'Aku tidak akan pergi sampai aku mendengar pengumuman kematiannya.' Aku tidak berdiam lama hingga aku mendengar ratapan kematian Abu Rafi', pedagang penduduk Hijaz. Maka aku berdiri tanpa merasa sakit, hingga kami datang kepada Nabi ﷺ dan mengabarinya.