Aslen Yemenli olup Hz. Peygamber hayatta iken doğdu. Babası sahâbî olduğu halde kendisinin sahâbîliği konusunda değişik rivayetler vardır. Muâz b. Cebel Hz. Peygamber tarafından Yemen’e gönderildiği zaman (10/631) ona refakat etmiş ve Muâz’ın vefatına kadar ondan ayrılmayarak kendisinden fıkıh öğrenmiştir. Bundan dolayı da “sâhib-i Muâz” (Muâz’ın arkadaşı) diye tanınır. Hz. Ömer, Osman, Ali, Ebû Zer, Ebû Hüreyre, Ebü’d-Derdâ, Muâviye ve diğer birçok sahâbeden hadis rivayet eden Abdurrahman, fıkıh öğretmek üzere Hz. Ömer tarafından Şam’a gönderildi. Bir süre Filistin’de kaldı ve Mervân’la birlikte 684 yılında Mısır’a gitti. Bununla birlikte daha çok Filistin ve özellikle Şam çevresinde adını duyurmuştur. Kaynaklar Şamlı tâbiîn âlimlerinin hemen hemen hepsinin kendisinden fıkıh tahsil ettiğini kaydederler. Hadis rivayetinde sika kabul edilen Abdurrahman’dan oğlu Muhammed, Ebû İdrîs el-Havlânî, Mekhûl ve Atıyye b. Kays başta olmak üzere birçok tâbiî rivayette bulunmuş, Ahmed b. Hanbel de Müsned’inde ondan mürsel hadisler rivayet etmiştir.