وروى عنه مجاهد وعمر بن دينار، توفي حاجا بمكة قبل يوم التروية بيوم وصلى عليه هشام بن عبد الملك وذلك في سنة 106 أو 104. قال ابن خلكان:
قال بعض العلماء مات طاوس بمكة فلم يتهيأ اخراج جنازته لكثرة الناس حتى وجه إبراهيم بن هشام المخزومي أمير مكة بالحرس فلقد رأيت عبد الله بن الحسن ابن الحسن بن علي بن أبي طالب يحمل السرير على كاهله وقد سقطت قلنسوة كانت على رأسه ومزقت رداءه من خلفه ورأيت بمدينة بعلبك داخل البلد قبرا يزار وأهل البلد يزعمون أنه الطاووس المذكور وهو غلط انتهى.
ولا يخفى عليك ان هذا الرجل من فقهاء العامة ومتصوفيهم ولم ينقل من أحد من العلماء ما يدل على تشيعه نعم ذكره (ضا) في فقهاء أصحابنا الأمجاد ورد عليه شيخنا في المستدرك في كلام طويل ليس هنا مجال نقله نعم عده الشيخ في رجاله من أصحاب السجاد (عليه السلام) ولعله لما يروي عنه (عليه السلام) من العبادة والمناجاة مع الله تعالى فقد روى ابن شهرآشوب عن طاووس قال: رأيت في الحجر زين العابدين (عليه السلام) يصلي ويدعو (عبيدك ببابك وأسيرك بفنائك سائلك ببابك يشكو إليك ما لا يخفى عليك).
اعلام الدين للديلمي روى أن طاووس اليماني قال: رأيت رجلا متعلقا بأستار الكعبة وهو يقول:
الا أيها المأمول في كل حاجتي * شكوت إليك الضر فاسمع شكايتي ألا يا رجائي أنت كاشف كربتي * فهب لي ذنوبي كلها واقض حاجتي فزادي قليل لا أراه مبلغا * أللزاد أبكي أم لبعد مسافتي أتيت بأعمال قباح ردية * فما في الورى خلق جنا كجنايتي أتحرقني بالنار يا غاية المنى * فأين رجائي منك أين مخافتي قال: فتأملته فإذ هو علي بن الحسين عليه السلام.
وفي الكشكول نقلا من الاحياء قال: قدم هشام بن عبد الملك حاجا أيام