در سال ۱۳۵۵ در کنار مقبره اوحدی مراغه‌ای (شاعر پرآوازه قرن هفتم و اوایل قرن هشتم هجری قمری)، کتابخانه‌ای احداث شد که همزمان بخشی از آن با اندک تغییراتی، به صورت موزه درآمد. ساختمان این موزه که با سبک و شیوه معماری سنتی ساخته شده بود، تا سال ۱۳۵۷ به علت قرار گرفتن در کنار مقبره اوحدی مراغه‌ای، به نام این شاعر معروف شد. این موزه از موزه‌های تخصصی کشور بوده و به علت این که شهر مراغه نقطه عطفی در تاریخ ایلخانی محسوب می‌شود، از سال ۱۳۷۵ با عنوان «موزه تخصصی ایلخانی» مشهور شده است.

آثار ارائه شده در این موزه مربوط به هزاره اول پیش از میلاد و دوره‌های اشکانی و ساسانی است که در بخش‌های جداگانه‌ای به نمایش درآمده است. موزه ایلخانی مراغه حاوی آثار ارزشمندی شامل مجموعه‌های سفال، سکه و بخش‌های شیشه و آبگینه، فلز و کتابت است.

در واقع موزه ایلخانی مراغه جلوه‌گاه بی‌نظیر تمدن عصر حکومت ایلخانی در ایران است. ایلخانان مغول از سال ۶۰۳ تا ۶۵۶ هجری قمری بر ایران و ماورای قفقاز حکومت کردند و شهر مراغه را به عنوان مرکز حکومت خویش برگزیدند.