إذًا، ولد روحي الخالدي في بيت وافر النعمة والأدب، فبعد ولادته بسنتين فقط، وفي عهد محمد راشد باشا والي سورية انتخب والده ياسين بن محمد علي الخالدي عضوًا في المجلس العمومي ببيروت كنائب عن القدس، ثم عيّن نائبًا عن طرابلس الشام. وقد كان ياسين الخالدي عضوًا بارزًا في حزب الإصلاح (أشهر الأحزاب العثمانية آنذاك) ، والذي كان محمد راشد باشا والي سوريا أحد أعضائه البارزين... وحين عُزل محمد راشد باشا عن ولاية سورية تزعزعت مكانة أنصاره بعدما أساء إليهم خلفه، فعاد ياسين الخالدي مع أسرته إلى مدينة القدس، وإذْ ذاك كان لابنه روحي من العمر ست سنوات، فأدخل إلى مجالس (الكتاتيب) ، ومن ثم تابع تحصيله العلمي في المدارس الابتدائية الأميرية. وحين تولى مدحت باشا ولاية الشام أخذ يجمع حوله من يثق بإخلاصهم ونزاهتهم ممن كانوا أعضاء في حزب الإصلاح، أو ممن كانوا قد عملوا في دوائر الدولة العثمانية وولاياتها من ذوي السمعة الطيبة، وراح يعيدهم إلى مراكزهم الأصلية التي كانوا يشغلونها، وكان من بين هؤلاء والد روحي الخالدي. وبذلك انتقلت الأسرة من القدس إلى نابلس. وهناك دخل روحي الخالدي إلى [المكتب الرشْدي] وهو مكتب دراسي يعادل الصفوف الابتدائية الأخيرة (الرابع ـ الخامس ـ السادس) . لكن مقام الأسرة لم يطل في نابلس، فقد انتقلت إلى طرابلس الشام حيث عيّن مدحت باشا ياسين الخالدي قاضيًا شرعيًا للمدينة. وهناك التحق روحي بالمدرسة الوطنية التي أنشأها الشيخ حسين الجسر، والتي كانت تنافس غيرها من المدارس لما حوته من وسائل حديثه تُعين الطالب في الدراسة، وترغبه في المدرسة.