قال عثمان بن أبي العاتكة: كان من أمر أبي مسلم أن علق سوطًا في مسجده ويقول: أنا أولى بالسوطمن الدواب، فإذا دخلته فترة مشق ساقيه سوطًا أو سوطين، وكان يقول: لو رأيت الجنة عيانًا ما كان عندي مستزاد، ولو رأيت النار عيانًا ما كان عندي مستزاد.
وعن شرحبيل: أن رجلين أتيا أبا مسلم في منزله فقال بعض أهله: هو المسجد فأتيا المسجد فوجداه يركع، فانتظرا انصرافه، وأحصيا ركوعه، فأحصى أحدهما أنه ركع ثلاث مئة ركعة، والآخر أربع مئة ركعة قبل أن ينصرف، فقال له: يا أبا مسلم، كنا قاعدين خلفك ننتظرك. فقال: إني لو عرفت مكانكما لانصرفت إليكما، وما كان لكما أن تحفظا علي صلاتي، وأقسم لكما بالله إن خير كثرة السجود اليوم القيامة.
قال: وكان أبو مسلم يتكلف حضور صلاة الجماعة من داريا إلى المسجد الجامع بدمشق التماس الفضيلة. وبين داريا والمسجد أربعة أميال.
وكان أول من دخل المسجد لصلاة الصبح.
قيل لأبي مسلم الخولاني حين كبر: إنك كبرت ورققت، فلو رفقت بنفسك، قال: أليس إذا أرسلت الحلبة فقلت لفرسانها: ارفقوا بها وسددوا بها، فإذا دنوتم من الغاية فلا تستبقوا منها؟ قال: فقد رأيت الغاية فدعوني.
قال عطية بن قيس: دخل أناس من أهل دمشق على أبي مسلم وهو غاز في أرض الروم، وقد احتفر جورة في فسطاطه وجعل فيها نطعًا وأفرغ فيه الماء وهو يتصلق فيه فقالوا: ما حملك على الصيام وأنت مسافر وقد أرخص لك في الفطر في الغزو والسفر؟! فقال: لو حضرت قتال لأفطرت، ولتهيأت له وتقويت، إن الخيل لا تجري الغايات وهي بدن، إنما تجري وهي ضمر، ألا وإن أيامنا باقية جائية، لها نعمل.