فكم قائل أغفلته وهو حاضر * وأطلب ما عنه تجئ به الكتب هنالك يدري أن للبعد قصة * وأن كساد العلم آفته القرب فوا عجبا! من غاب عنهم تشوقوا * له ودنو المرء من دارهم ذنب ولما بلغ أبو الوليد الثالثة والعشرين من عمره، حفزته الرغبة الملحة لمشافهة الشيوخ بالمشرق والاخذ عنهم، فارتحل سنة (426 ه‍) ومر في طريقة بمصر وأخذ بها عن أبي محمد بن الوليد، واتجه إلى مكة ولزم بها أبا ذر أزيد من ثلاثة أعوام حج فيها أربع حجج، وكان يسكن معه بالسراة ويخدمه ويتصرف له في حوائجه. وسمع منه صحيح البخاري الذي تداول المحدثون روايته عن الباجي بالأندلس والمغرب كما سمع بها من الشيوخ الذين لقيهم هناك، وسنترجم لجملة منهم فيما سيأتي.
ثم قصد العراق عن طريق الكوفة التي استقر ودرس درس بها مدة، ثم انتقل إلى بغداد ووجد فيها بيئة عليمة غير التي عرفها في سائر المدن والقرى التي أتيح له دخولها، فأقام بها ثلاث أعوام يسمع الحديث ويدرس الفقه المالكي والشافعي والحنفي والحنبلي، على الحفاظ والأئمة الاعلام، وأصول الفقه والعقيدة على مختلف المذاهب، بما في ذلك الأشعرية والمعتزلة.
(والتحق بالشام وسمع من ابن السمسار وطبقته).
ثم دخل الموصل ولازم أبا جعفر السمناني الحنفي عاما يدرس عليه أصول الفقه والعقيدة وروى عنه كتبه وأدخلها إلى الأندلس.