مهدی خالدی در مردادماه سال ۱۲۹۸ خورشیدی در محله سنگلج تهران به دنیا آمد.
علاقه او به موسیقی باعث شد که پدرش در ۱۶ سالگی او را به نزد ابوالحسن صبا ببرد که با او دوستی داشت.
صبا که خود دارای سبک و از بزرگان و معاریف موسیقی ایران به شمار می رود متوجه علاقه و استعداد مهدی در موسیقی شده بود بنابراین او را به شاگردی خود پذیرفت.
او طی یک سال و نیم آموزش ویلن و موسیقی ایرانی را نزد صبا فرا گرفت و کمی بعد جزو هنرمندان شناخته شده عرصه موسیقی شد.
یکی از نوازندگانِ صاحبسبک ویلون در تاریخ موسیقی ایرانی، استاد مهدی خالدی است،وی که از برترین آهنگسازانِ موسیقی ایرانی و از برجستهترین شاگردان استاد ابوالحسن صبا به شمار میرود، آثار بسیاری را ساخته که با صدای خوانندگانی چون استادان حسین قوامی و غلامحسین بنان اجرا شده است.
وی همچنین از محضر هنرمندانی مثل روحالله خالقی، حسین یاحقی، حسین خالدی و حبیب اسماعیلی هم استفاده کرد.
خالدی علاقه زیادی به آهنگهای فولکلور و محلی داشت و آنها به عنوان منبع الهام بسیاری از آهنگهایش بود. خالدی سالها در مکتب و محضر استاد صبا شاگردی کرد و فوت و فنِ نوازندگی ویولن را از استادِ خود فراگرفت، ولی با این حال توانست به شیوه شخصی خود در نوازندگی دست یابد و استادیِ خود را به اثبات برساند.
مرحوم استاد مهدی خالدی روحیاتی ویژه داشت. او از شمار هنرمندانی بود که با هنر خویش زندگی میکرد اما هنر خود را به زندگی نمیفروخت؛ به بیان دیگر، خالدی در پی آن نبود که با هنرِ نابِ خود تجارت کند و بهوسیلۀ آن به سرمایهاندوزی بپردازد.
برای همین هیچگاه حاضر نشد مانند شماری دیکر از هنرمندانِ رادیو در ازای دریافت دستمزدی گزاف به نوازندگی در کابارهها بپردازد.
او خود در گفتوگویی مفصّل که مرحوم استاد فریدون ناصری (آهنگساز و رهبر ارکستر) و شماری دیگر از چهرههای هنری با او در مهرماه ۱۳۶۰ در منزلش ترتیب دادهاند، در اینباره چنین گفته است:
«اصولاً آدمی نبودم که دنبال پول بروم… دنبال پول رفتن را خیلی کسر شأن میدانستم. دنبال هنرم بودم؛ میخواستم این هنرم را روز به روز بالا ببرم، شخصیت هنری خودم را بالا ببرم. این، بیشتر مرا اقناع میکرد. رادیو دو ماه بود که تاسیس شده بود و یک ارکستر بیشتر نداشت که در آن افرادی همچون مرحوم حبیب سماعی، مرحوم عبدالحسین شهنازی، آقای مرتضی نی داوود، آقایان جواد معروفی و موسی معروفی، مرحوم صبا، مرحوم تهرانی، غلامعلی روانبخش و … کار میکردند. چون تمام سازهای این ارکستر مضرابی بود از طرف مدیر وقت رادیو به استاد صبا میگویند: «از آنجایی که شما یک نفر بیشتر نیستید که ویولن مینوازید از فرد دیگری هم بخواهید در کنار شما در ارکستر ویولن بنوازد تا ویولن ارکستر مقداری قویتر شود».
من در آن زمان سرباز بودم که مرحوم صبا تلفنی فرمودند: «مهدی فورا بیا کارت دارم». به منزل ایشان رفتم و گفتند که قرار است فردی را برای ویولن زدن به رادیو معرفی کنند، پس تو به رادیو بیا. گفتم که من الان سربازم چگونه میشود به رادیو بیایم؟ گفت: «کار رادیو عصرها است تو از آنجا به رادیو بیا».
بنده به رادیو رفتم و قرار بود من را برای همنوازی در رادیو امتحان کنند. به خاطر دارم سرگرد غلامحسین مینباشیان رئیس هنرستان موسیقی و بخش موسیقی رادیو بود. سروان ابراهیم آژنگ معاون ایشان و یکی از موسیقیدانهای بسیار قدیمی ایران بود. آقای موسی معروفی هم رئیس دفتر ایشان بود. آقای آژنگ ۱۰ نفر از اساتید موسیقی را جمع کرد تا از من برای همنوازی ویولن در ارکستر امتحان بگیرند.
همچین وی این افتخار را داشت که در زمان غیبت استاد خویش که برای پرکردن صفحه به خارج از کشور رفته بود، کلاس استاد صبا را برای مدت شش ماه اداره و سرپرستی کند.
خالدی به دنیا آمده بود که در تصنیفسازی و نوازندگی در موسیقی ما رفتار شگفتانگیزی ایجاد کند. ساز او به خون آدم ایمان و شهامت میداد که جاری باشد، ساز او بیدار میکرد، ساز او به شگفتی میآورد روز را و شب را؛ هنگامی که او ساز میزد شنونده خیلی زود و سراسیمه میپرسید: چه کسی ساز میزند؟
خالدی بعد از یک دوره بیماری و ابتلا به سرطان حنجره در آذرماه ۱۳۶۹ درگذشت.
مزار این هنرمند فقید در نزدیکی آرامگاه جهان پهلوان تختی در این بابویه به خاک سپرده شد.