این باغ در سال ۱۲۷۶ هجری قمری توسط نور سلطان محمد میرزای سیفالدوله؛ حکمران ملایر در دوره ناصرالدین شاه (و از نوادگان فتحعلی شاه قاجار) به منظور تفرجگاه و تفریحگاه مردم شهر وقف شد که بعدها به منظور تجلیل از واقف، «سیفیه» نامیده شد.
از آنجا که سازندگان این بوستان مهندسان ایتالیایی بودهاند، این پارک را به شکل صلیبی و بیضی ساختهاند. چارچوب کلی باغ تحت عوامل داخلی است و احتمالاً این باغ به تقلید از شیوه باغسازی دوره صفویه در اصفهان (چهارباغ اصفهان) ساخته شده است. در واقع به این دلیل که سیفالدوله مدتی در اصفهان زندگی میکرد، این عامل را در باغسازی به این روش که در معماری قبل از دوره صفویه و قاجار نیز معمول بوده است را بیثمر نمیتوان دانست. این بوستان دارای دو استخر و یک مسجد میباشد که توسط سیفالدوله احداث شد و ساختمانی که ظاهراً محل سکونت بانی آن بوده است.
مصالح به کار گرفته شده در مجموعه باغ سیفالدوله به تناسب نیازهای قسمتهای مختلف بنا عبارتند از سنگ، گِل، چوب، آجر، خشت، ساروج، کاشی و ملاط گچ.
در محوطه این پارک که در گذشته محل سکونت اختصاصی حاج سیفالدوله بود، آرامگاه وی و مزار امیر المؤید (نوه سیفالدوله که در واقع مالک اصلی پارک و اراضی اطراف آن بود) و ۷ قبر دیگر بنا شده است. این مقبره دارای پلان چهارضلعی میباشد که بر فراز آن گنبدی واقع شده است. در داخل مقبره علاوه بر اتاق بزرگی در وسط با پوشش گنبدی شکل، ۴ اتاق کوچک مربع شکل به ضلع ۴ متر با پوشش نیم گنبدی نیز بنا شده که هر کدام با دو ورودی به بیرون راه پیدا میکنند و با دو ورودی به داخل مقبره ارتباط مییابند. در داخل مقبره تابلویی بزرگ که بر روی آن آیاتی از قرآن نگاشته شده به چشم میخورد و نیز چند عکس از سیفالدوله، امیر المؤید و افراد خانواده وی مشاهده میشود.
در اوایل دوره مشروطیت و هنگامی که هرج و مرج کشور را فراگرفته بود، این پارک بارها مورد غارت قرار گرفت و خسارتها و ویرانیهای بسیاری بر آن وارد شد ولی سیفالدوله با علاقهای خاص اقدام به جبران خسارتها نمود و تا پایان عمر عهدهدار این امر بود. پس از سیفالدوله نوه ایشان عهدهدار این امر گردید و در وصیتنامه خود این باغ را به شهرداری شهر واگذار کرد و از آن پس حفظ و نگهداری این مجموعه تاریخی بر عهده شهرداری ملایر قرار گرفت.
منبع: سیری در ایران