عاملا لعمر بن الخطاب، وعثمان بن عفان بعده، فقدم الكوفة واليا عليها، وأقام عليها خمس سنين وهو من أحب الناس إلى أهلها. فلما قدم قال له سعد: أكست بعدنا أم حمقنا بعدك! فقال: لا تجزعن يا أبا إسحاق كل ذلك لم يكن، وإنما هو الملك يتغداه قوم ويتعشاه آخرون، فقال سعد: أراكم جعلتموها ملكا. وقال له ابن مسعود: ما أدري أصلحت بعدنا أم فسد الناس!
ذكر أهل أرمينية وأذربيجان لما استعمل عثمان الوليد على الكوفة عزل عتبة بن فرقد عن أذربيجان فنقضوا، فغزاهم الوليد سنة خمس وعشرين، وعلى مقدمته عبد الله بن شبيل الأحمسي فأغار على أهل موقان، والببر، والطيلسان ففتح، وغنم، وسبى، فطلب أهل كور أذربيجان الصلح فصالحهم علن صلح حذيفة وهو ثمانمائة ألف درهم وقبض المال، ثم بث سراياه، وبعث سلمان بن ربيعة الباهلي إلى أهل أرمينية في اثني عشر ألفا فسار في أرمينية يقتل ويسبي ويغنم، ثم انصرف وقد ملأ يديه حتى أتن الوليد، فعاد الوليد وقد ظفر وغنم وجعل طريقه على الموصل، ثم أتن الحديثة فنزلها، فاتاه بها كتاب عثمان فيه أن معاوية بن أبي سفيان كتب إلي يخبرني أن الروم قد أجلبت على المسلمين في جموع كثيرة، وقد رأيت أن يمدهم إخوانهم من أهل الكوفة، فابعث إليهم رجلا له نجدة وبأس في ثمانية آلاف أو تسعة آلاف من المكان الذي يأتيك كتابي فيه والسلام.
فقام الوليد في الناس وأعلمهم الحال وندبهم مع سلمان بن ربيعة الباهلي فانتدب معه ثمانية آلاف فمضوا حتى دخلوا مع أهل الشام إلى أرض الروم،