Hz. Ali’nin hilâfetinin son yılında (40/661) Kûfe’de doğdu. Gençlik döneminde Medine’ye yerleşti. Hz. Peygamber zamanında dünyaya geldiği ve onu gördüğü rivayet edilmekteyse de bunun doğru olmadığı (Zehebî, V, 65, 67) ve bu bilginin babasıyla ilgili bulunduğu (İbn Hacer, el-İṣâbe, VI, 346) anlaşılmaktadır.

Ebân b. Osman b. Affân, Enes b. Mâlik, Berâ b. Âzib, Câbir b. Abdullah, Zeyd b. Erkam, Abdullah b. Abbas, Amr b. Âs başta olmak üzere pek çok kişiden hadis rivayet eden Muhammed b. Kâ‘b’dan kardeşi Osman, ayrıca Zeyd b. Eslem, Ebû Ma‘şer es-Sindî, Amr b. Dînâr, Muhammed b. Aclân, İbnü’l-Münkedir gibi şahıslar rivayette bulunmuştur. Hz. Ali, İbn Mes‘ûd, Ebû Hüreyre ve Ebü’d-Derdâ gibi sahâbîlerden mürsel rivayetlerinin olduğu söylenen Muhammed b. Kâ‘b’ı İbn Sa‘d, Ali b. Medînî ve Ebû Zür‘a er-Râzî gibi âlimler güvenilir kabul etmiş (İbn Ebû Hâtim, VIII, 67; Zehebî, V, 68), başta Kütüb-i Sitte olmak üzere hadis kaynaklarında rivayetlerine yer verilmiştir. Muhammed b. Kâ‘b’dan gelen rivayetler umumiyetle nüzûl sebepleri (meselâ bk. Taberî, VI, 7, 28, 89; XXV, 100) ve Kur’an kıssalarıyla (a.g.e., XII, 92-93, 98, 102; XIII, 25, 72; XIX, 169; XX, 68) ilgilidir. Onun zaman zaman te’villere başvurduğu (a.g.e., XXIII, 80, 84) ve fıkhî konulara ilişkin yorumlar yaptığı (a.g.e., VII, 21) görülmektedir. Muhammed b. Kâ‘b, Rebeze Mescidi’ndeki tefsir dersi sırasında meydana gelen deprem sonucu enkaz altında kalarak öldü (108/726). Ölüm tarihini 117 (735), 118, 120, hatta 129 (747) olarak kaydedenler de vardır.

Tâbiîn neslinden Medine tefsir ekolünün önde gelenlerinden olan Muhammed b. Kâ‘b’ın Ömer b. Abdülazîz’le dostluk kurduğu ve halifeye tavsiyelerde bulunduğu, ayrıca çok Kur’an okuduğu, varlıklı olmasına rağmen servetini tasadduk ederek zühd hayatı yaşadığı ifade edilmektedir. Onun Tefsîrü’l-Ḳuraẓî adıyla bir eser yazdığı kaydedilmektedir (Keşfü’ẓ-ẓunûn, I, 457). Hz. Peygamber’in, kendisinden sonra Kur’an’ı en iyi inceleyip anlayacağını haber verdiği kişinin Muhammed b. Kâ‘b olduğu rivayet edilmiştir (İbn Sa‘d, eṭ-Ṭabaḳāt, VII, 501).