در دوره ساسانیان هنگامی که خسرو اول انوشیروان ایران را به چهار قسمت تقسیم کرد ابهر در منطقه دوم یعنی استان جبال قرار داشت دراین دوره منطقه ابهر رود تحت تسلط خاندان مهران یکی از هفت خاندان مهم حکومت گر ایران قرار داشت این خاندان علاوه بر ابهر به مناطق وسیعی که از ناحیه خوار تا آوج و دشتبی امتداد داشت مالکیت داشتند ومعروفترین افرادی که از این خاندان شناخته شده اند شروین دشتبی، بهرام چوبینه، پیران گشسب، گریگوریوس و سیاوش رازی هستند.

تاپیش از خلافت هارون الرشید، ابهر منطقه نسبتاً وسیعی را شامل بود. وی قسمتی از قاقازان و نیز ناحیه ابهر رود را از ابهر جدا کرد و به قزوین ملحق ساخت. در اوایل سده 8 قمری ولایت ابهر 25 پاره دیه داشت و حقوق دیوانی آن به یک تومان و چهار هزار دینار می رسید.

از ابهر به عنوان بلوک معتبر از ولایت خمسه با باغات فراوان و آبهای جاری نام برده شده است. شاردن می نویسد ابهر در دوره شاه عباس دوم صفوی دارای 2500 خانه و باغچه بوده است. چنانچه سواره نیم ساعت وقت لازم داشته تا از آن عبور کند. ابهر در این زمان دارای اماکن عمومی و سه مسجد بزرگ بوده و در وسط شهر بقایای گلین قلعه مخروبه ای مشاهده می شود.

در سال 1100 هجری تاورنیه از ارامنه شهر ابهر خبر داده و ژوبر در زمان فتحعلیشاه قاجار باغهای ابهر و خانه های تمیز و راحت آنرا ستوده است. در سال 1247 هجری ابهر 700 خانه و باغهای دانشین داشته و قبر شیخ قطب الدین از مشایخ سلسله شیخ صفی الدین اردبیلی در ابهر واقع شده بر طبق نوشته دوسرسی در سالهای 1250 هجری دوره محمد شاه قاجار ابهر دارای 200 خانه و 900 نفر جمعیت بوده و دو گنبد نیمه ویران از دو مسجد در آن دیده می شده است. در دوره ناصر الدینشاه قاجار ابهر تیول توپخانه بوده است چنانچه خرمدره در تیول فراشخانه بوده در همین دوره قلعه خرابه ای بنام دارا در ربع فرسخی شهر دیده می شده است و خانه های آن کمتر از 1100 نبوده. در سده 10 قمری از مرقد پیر حسن بن اخی اوران نیز در ابهر یاد شده و سیدی علی کاتبی دریاسالار عثمانی در 964 هـ. ق . آنرا زیارت کرده است.