در سال 394 ابوعلی به خدمت شمس الدوله در آمد ، شمس الدوله که از بیماری قولنج رنج میبرد و پزشکان بیماری ‏وی را تشخیص نمیدادند توسط ابوعلی بهبود یافت و سمت طبیب مخصوص امیر را گرفت و بعد از چند ماه به سمت ‏وزارت شمس الدوله منصوب گشت .‏

در طی سالهایی که در همدان گذرانید نوشتن کتاب قانون در سال 398 به پایان رسید او در این دوران تعداد قابل ‏توجهی کتاب و رساله نوشت . روز ها را صرف تدریس و طبابت در بیمارستان و رسیدگی به امور سیاست میکرد و ‏شب ها را صرف تحریر و تالیف کتاب و بعضا بحث و شب نشینی با اندیشمندان همدان میکرد .‏

در چهارمین سال وزارت قانونی برای کم کردن جیره غلامان و سپاهیان تدوین کرد که سبب شد سپاهیان علیه وی ‏شورش کنند . شمس الدوله برای راضی کردن سپاهیان ابوعلی را به خانه شخصی به نام شیخ سعید ابن دخدوک ‏تبعید کرد و فرمان او را جلوی چشم سپاهیان سوزاند . در دوران تبعید بود که ابوعلی کتاب شفا در مورد فلسفه و ‏نکات مثبت نظریات ارسطو نوشت ‏
بعد از مدتی بیماری امیر وخیم شد و ابوعلی را نزد وی آوردند و بوعلی سمت وزارت خود را از سر گرفت . در ‏همین ایام نامه ای از ابو ریحان بیرونی دریافت کرد که حاوی ده سوال بود که جواب آنها را در رساله ای به نام ‏الاجویه عن مسائل ابوریحان بیرونی نوشت ‏
بعد از مرگ شمس الدوله ابوعلی سینا با علاء الدوله دائی شمس الدوله که حاکم اصفهان بود مکاتبه کرد و خواستار ‏حضور در دربار وی شد که بعد از باخبر شدن سماء الدوله جانشین شمس الدوله ، به جرم خیانت او را در زندان دژ ‏فرد جان در ناحیه فرهان زندانی کرد . ابوعلی کار نوشتن را در زندان نیز ادامه داد در سال 402 علاء الدوله به ‏همدان حمله کرد ولی موفق به گرفتن دژ فرد جان نشد . بعد از آن سماء الدوله ابن سینا را مورد عفو قرار داد و ‏او را به همدان باز گرداند . ولی بوعلی ماندن در همان را صلاح ندانست و از همدان گریخت و راه اصفهان را در ‏پیش گرفت ‏
او در مدت زندان کتابهای الهدا فی الحکمت - راهنمای عقل - و کتابی دیگر با نام حی بن یقظان - زنده بیدار - را ‏به پایان رساند و رساله ای در باب قولنج و بیماری قلبی به رشته تحریر در آورد
در سال 403 ابو علی به اصفهان وارد شد وبه عنوان یکی از نزدیکان علاء الدوله در آمد ‏
ابوعلی سینا در اصفهان کتاب شفا را به پایان رساند . و بعد در سال های آخر عمر تمامی تجربیات خود در زمینه ‏طب را در کتاب قانون نوشت و کتاب ارزشمند خود را کامل کرد ‏
در مهر 415 خبر حمله مسعود پسر سلطان محمود غزنوی به اصفهان رسید در همین هنگام علاء الدوله با سپاهیان ‏خود از اصفهان خارج شد اوب علی نیز به همراه علاء الدوله از اصفهان خارج شد ولی کتابهایش در اصفهان ماند که ‏مورد تاراج غارتگران ترک قرار گرفت و بسیاری از آنها از بین رفت یا به غزنه منتقل شد ‏
علاء الدوله به سمت همدان حرکت کرد در این سفر ابوعلی به قلنج مبتلا شد که جوزجانی به کمکش آمد ولی بوعلی ‏برای آنکه زودتر بهبود یابد میزان دارو را افزایش داد که سبب از بین رفتن قوای جسمی او گشت او در این زمان ‏کتابی در مورد اثبات خدا با نام حکمت المشرقین - فلسفه شرقی - که تقریبا نوعی وصیت نامه بود نوشت .‏
بعد از چندی بیماری ابن سینا شدت گرفت وی که چندین بار بر این بیماری در بدن دیگران غلبه کرده بود نتوانست ‏این بیماری را در خود درمان کند و در هشتم آبان ماه 415 در شهر همدان رخت از جهان فانی بر بست و او را در ‏همان شهر به خاک سپردن.