از زندگی و شجره خانواده باباطاهر اطلاعات زیادی در دست نیست. بر اساس آن‌چه محققان می‌گویند او در سن ۸۵ سالگی در شهر همدان وفات یافته و در همین شهر به خاک سپرده شده است. آرامگاه باباطاهر همدانی در قسمت شمال غربی شهر همدان قرار گرفته است. این آرامگاه امروز یکی از میدان‌های اصلی شهر همدان می‌باشد. بنای آرامگاه او در عصر حاضر ساخته شده و تلفیق معماری امروز با معماری قرن هفت و هشت هجری قمری است. آرامگاه باباطاهر در میدانی قرار دارد که ابعاد آن به شکل مستطیل است. مساحت زیربنای آرامگاه و باغ اطراف آن حدود ۸۹۵۶ متر مربع می‌باشد. تلفیق فضای سرسبز و زیبای میدان با گنبد فیروزه‌ای رنگ آرامگاه، نمایی بسیار چشم‌نواز و احساسی پدید آورده است. ساختمان بنا به صورت هشت ضلعی بوده و گنبد آن به شکل منشور می‌باشد. ارتفاع ساختمان از سطح خیابان حدود ۲۵ متر است. سنگ گرانیت از اجزاء اصلی نمای بنا در قسمت کف آرامگاه، پله‌ها و سنگ مزار می‌باشد.بنای داخلی به شکل مربعی با اضلاع ۱۰ متر است. بیرون این بنا مجموعه‌ای از منشورها هستند که دارای منافذ نوری می‌باشند. در فضای داخلی آرامگاه دوبیتی‌هایی از اشعار این شاعر برجسته ایرانی روی سنگ‌های مرمر حک شده است. ساختمان آرامگاه طی سال‌های طولانی بر اثر عوامل مختلف بارها تخریب گردیده است. برجی هشت ضلعی از جنس آجر که در قرن ششم هجری قمری بر روی بنای آرامگاه ساخته شده بود، به مرور زمان ویران گشت. پس از آن شهرداری همدان در زمان رضاشاه ساخت بنایی جدید را آغاز نمود، که نیمه‌کاره رها شد. در همین زمان بود که لوح کاشی مربوط به قرن هفتم هجری قمری در آرامگاه پیدا شد. لوح یاد شده به موزه ایران باستان منتقل گردیده است.سال ۱۳۲۹ بنای ناتمام که دچار آسیب‌دیدگی شده بود، مرمت گردید. در سال ۱۳۴۵ مهندس سیحون و مهندس فروغی طرح یک بنای جدید را ارائه کردند. یک سال بعد ساخت آرامگاه شروع شد و سه سال به طول انجامید. آرامگاه فعلی باباطاهر تلفیق معماری عصر حاضر با معماری قرن‌های هفتم و هشتم هجری قمری است.