روى عن أيمن بن نابل وحريز بن عثمان وسلمة بن وردان ومعروف بن خربوذ وابن جريج وأسامة بن زيد الليثي وسعيد بن أبي عروبة وشعبة ومالك والثوري وصالح المري وهمام بن يحيى وطائفة. وعنه أحمد بن حنبل وأبو الحسن إسماعيل بن إبراهيم الجعفي والد البخاري وهناد بن السري وعمرو بن رافع وعثمان بن أبي شيبة والحسن ابن عيسى بن ماسرجس وصالح بن عبد الله الترمذي وأبو سعيد الأشج وهشام بن عبيد الله الرازي وأبو الطاهر بن السرح المصري والجارود بن معاذ الترمذي وقتيبة بن سعيد وأبو داود المصاحفي وكامل بن طلحة الجحدري ونصر بن علي الجهضمي وخلق. قال ابن سعيد كتب الناس عنه كتابا كبيرا وتركوا حديثه وقال البخاري تكلم فيه يحيى بن معين وقال أحمد بن علي الابار عن أبي غسان محمد بن عمر وزنيج قال قال عمر ابن هارون ألقيت من حديثي سبعين ألفا لابي حر عشرين ولعثمان البري كذا وكذا قال فقلت له يا أبا غسان ما كان حاله قال قال بهز قال يحيى بن سعيد أكثر عن ابن جريج من لزم رجلا اثني عشر سنة لا يريد أن يكثر عنه كان يحيى بن سعيد حسده وذكر مسلم بن عبد الرحمن البلخي ان ابن جريج تزوج أم عمر بن هارون فمن هناك أكثر السماع منه.
وقال ابن عدي يقال إنه لقي ابن جريج بمكة وكان حصن الوجه فسأله ابن جريج ألك أخت قال نعم فتزوج بأخته فتفرد عن ابن جريج وروى عنه أشياء لم يروها غيره وقال أبو بكر بن أبي داود عن سعيد بن زنجل سمعت صاحبا لنا يقال له ثور بن الفضل سمعت أبا عاصم ذكر عمر بن هارون فقال كان أحسن عندنا للاخذ من ابن المبارك.
وقال أحمد بن سيار عمر بن هارون كان كثير السماع روى عنه عفان وقتيبة وغير واحد ويقال ان مرجئة بلخ كانوا يقعون فيه وكان أبو رجاء يعني قتيبة يطريه ويوثقه وذكر عن وكيع انه ذكره فقال كان يروي بالحفظ قال وسمعت أبا رجاء يقول كان عمر ابن هارون شديدا على المرجئة وكان يذكر مساويهم وكان من أعلم الناس بالقراءات. قال قتيبة وسألت عبد الرحمن بن مهدي فقلت بلغنا انك تذكره فقال معاذ الله ما قلت فيه إلا خيرا قلت له بلغنا انك قلت إنه روى عن فلان ولم يسمع منه فقال يا سبحان الله ما قلت