كانت لهذا الإمام عبادة جيدة، وهكذا كان دأب العلماء رحمهم الله تعالى، وخصوصًا في قيام الليل، والإمام أحمد -رحمه الله- لما استضاف رجلًا من أهل الحديث جاءه في بيته، فوضع له الإمام أحمد -رحمه الله- ماءً بالليل، وفي الصباح نظر في الماء فوجده ما نقص ولا تغير، فعاتبه الإمام أحمد رحمه الله، وقال: صاحب حديثٍ لا يقوم الليل! كيف يكون هذا؟ فلم تكن القضية عندهم حفظ المعلومات -كما ذكرنا- وإنما هي أيضًا عبادة.
وكان أبو عبيد -رحمه الله تعالى- يُقَسِّم الليل أثلاثًا:- فيصلي ثلثه، وينام ثلثه، ويصنف الكتب في ثلثه.
فثلث لقيام الليل، وفيه تأنس القلوب بربها، وترتاح بمناجاة مليكها عز وجل، وثلثٌ ينام فيه، وثلثٌ يصنِّف فيه الكتب، وكان مقتديًا في ذلك بالإمام العلم محمد بن الحسن الشيباني رحمه الله، وكان شيخه.
وأما بالنسبة للزهد والجود:- فإن الرجل كان زاهدًا، مترفعًا عن النقائص، ومع كثرة الأعطيات التي تأتيه إلا أنه لم يكن طماعًا أبدًا، فإن أبا دُلَف العِجلي أحد قواد المأمون أرسل إلى عبد الله بن طاهر يستهديه أبا عبيد مدة شهرين، يقول: أهدني أبا عبيد شهرين، وذلك لما سمع بـ أبي عبيد ووَصَلَه صيته العلمي، فطلب عبد الله بن طاهر الأمير من أبي عبيد أن يسير إلى أبي دُلَف لشهرين، فأقام عنده شهرين مشتغلًا بالتعليم، فلما أراد الانصراف وصله أبو دُلَف بثلاثين ألف درهم، فلم يقبلها، وقال: أنا في جنبة رجلٍ لا يحوجني إلى صلة غيره، ولا آخذ ما فيه عليَّ نقصٌ، فلما عاد إلى عبد الله بن طاهر وَصَلَه بثلاثين ألف دينار، لِمَا رأى من تعففه عن قبول ثلاثين ألف درهم من أبي دُلَف، فهل يا ترى أخذ هذا المال، وصار مكافأة عن تعففه الأول؟ كلا، بل إنه قال له: أيها الأمير! قد قبلتها، ولكن قد أغنيتني بمعروفك وبرك وكفايتك عنها، وقد رأيتُ أن أشتري بها سلاحًا وخيلًا، وأوجه به إلى الثغر، فيكون الثواب متوفرًا على الأمير، ففعل، ووضعها ثمن سلاحٍ في سبيل الله، وأقنع الأمير بحجة أن هذا سيكون فيه ثواب وافر محفوظ لهذا الأمير.