ولد السياسي والأديب روحي ياسين أفندي الخالدي في القدس في العام 1864، التحق بالكتاتيب ومدارس الحكومة الابتدائية.
وحين تولّى مدحت باشا ولاية سوريا سنة 1878م عُيّن والده قاضياً شرعياً في مدينة نابلس فالتحق هو بالمكتب الرشدي فيها. ثم التحق في طرابلس الشام بالمدرسة الوطنية التي أنشأها الشيخ حسين الجسر. وفي سنة1880م سافر مع عمّه عبد الرحمن نافذ أفندي الخالدي إلى الأستانة، وهناك قابل عدداً من العلماء واستفاد من علمهم.
عاد روحي إلى القدس بعد رحلة قصيرة إلى الأستانة، وحضر الدروس في المسجد الأقصى، وتردّد على مدرسة (الأليانس) ومدرسة الرهبان البيض (الصلاحية) ليتقن اللغة الفرنسية، ثم التحق بالمدرسة السلطانية في بيروت، وظلّ فيها إلى حين انحلال المدرسة، فعاد إلى القدس وواصل حضور حلقات الدرس في المسجد الأقصى. وعُيّن في ذلك الوقت موظفاً في دوائر العدلية لكنّه كان يطمح إلى مواصلة دراسته.
حاول والداه منعه من السفر والاغتراب، فعُيّن رئيساً لكتّاب محكمة بداية غزة، إلا أنّه رفض الوظيفة والتحق بالمكتب الملكيّ السلطاني في الأستانة1887م، وأمضى في ذلك المعهد للعلوم السياسية والإدارة ست سنوات، حاز في نهايتها سنة 1893 على شهادة التخرج.
ثم عاد إلى القدس، حيث عُيّن معلماً في مكتبها الإعدادي، لكنّه رأى أنّه أجدر بوظيفة أعلى فعاد إلى الأستانة، ومنها سافر إلى باريس، ثم عاد ثانية إلى العاصمة العثمانية، وأخذ يتردّد فيها على مجلس الشيخ جمال الدين الأفغاني.
واشتدّت مراقبة الجواسيس الذين كانوا يحضرون مجلس الشيخ الأفغاني، ففرّ إلى باريس والتحق بجامعة السوربون، ودرس فيها فلسفة العلوم الإسلامية والآداب الشرقية. وفي السوربون تعرّف إلى كبار المستشرقين.
ثم عُيّن مدرّساً في جمعية نشر اللغات الأجنبية في باريس، ودُعِي إلى الاشتراك في مؤتمرات المستشرقين وإلقاء المحاضرات في اجتماعاتهم.
وعاد إلى الأستانة، وصدر قرار في العام 1898م بتعيينه قنصلاً عاماً في مدينة بوردو الفرنسية وتوابعها.
وقد نجح في عمله هناك، وذاع صيته حتى انتخب رئيساً لجمعية القناصل في تلك المدينة، وكانت الجمعية تضمّ ستة وأربعين قنصلاً. فكان ينوب عنهم في الاحتفالات التي يتعذّر وجودهم فيها جميعاً، ويستقبل رئيس الجمهورية وكبار الوزراء والعلماء عند مرورهم في بوردو. وبقِيَ قنصلاً عاماً نحو عشرة أعوام، إلى حين إعلان الدستور سنة 1908، وكان خلالها ينشر أبحاثه ودراساته في الصحف العربية، ويكتفي بتوقيع (المقدسي)، أو بنشرها من دون توقيع، خوفاً من ردة فعل السلطات العثمانية الحميدية.
عقب إعلان الدستور في تموز/ يوليو 1908، رجع إلى القدس فانتخبه أهلها نائباً عنهم في مجلس النواب العثماني (المبعوثان) في تشرين الثاني/ نوفمبر 1908.
كان روحي الخالدي عضواً في جمعية (الاتحاد والترقي)، فكان مؤيّداً للحرية والدستور، ليبرالياً في أفكاره بصورة عامة. وتنبّه إلى المخاطر الصهيونية، وعبّر عن مقاومته لنشاطها في فلسطين في مناسبات ومواقف مختلفة.
ولما حُلّ مجلس المبعوثان سنة 1912، عاد روحي إلى القدس.
وعندما أعيدت انتخابات المجلس، أعاد أهل القدس انتخابه. فسافر إلى الأستانة ثانية، واستمرّ في تمثيل (متصرفية القدس) ومصالح سكانها في البرلمان على خير وجه.
واختير روحي أفندي في المجلس نائباً للرئيس، فكان من الأعضاء البارزين في ذلك العهد.
كان روحي أفندي مثقّفاً واسع الاطلاع، وأحد أعمدة النهضة العربية في فلسطين في أواخر العهد العثماني. وتشير كتبه المخطوطة والمطبوعة إلى تنوّع اهتماماته الأدبية والسياسية والتاريخية.
توفّيَ روحي أفندي الخالدي في 6 آب/ أغسطس 1913 عن عمرٍ قارب الخمسين سنة، بعد إصابته بحمى التيفوئيد.