زمانى که يعقوب قصد بغداد کرد، عمرو با ناراحتى از برادر جدا شده به سيستان رفت. يعقوب پس از شکست از خليفه، نامه‌اى براى عمرو نوشت و ضمن دلجوئى از او دعوت کرد به گنديشاپور بيايد. بالطبع، در مدت غيبت عمرو، ميان او با اطرافيان و نزديکان و سپاهان يعقوب فاصله افتاده بود. در حالى‌که علي، برادر ديگر يعقوب، با آنان نزديکى داشت و مورداعتماد بود. به همين سبب سپاهيان پس از مرگ يعقوب، دستورات على را به اجراء گذاشتند و نسبت به او تمايل بيشترى نشان دادند و تصميم داشتند على را به جانشينى يعقوب برگزينند. بر سر انتخاب جانشين، چند روزى بحث و گفتگو درگرفت. سرانجام، تصميم نهائى به حکميت گذاشته شد و عمرو پيروز گرديد. حيله و تدبير عمرو يا سستى و بى‌تجربگى علي، مى‌تواند از عوامل چنين تصميمى باشد. مؤلف تاريخ سيستان مى‌نويسد: شاهين بتو، يکى از سرداران بزرگ، عامل پيروزى عمرو شد ”که انگشترى از دست على فرا ستد و به عمرو داد عمرو کار بپذيرفت“۱. سپاهيان نيز به تبعيت از فرمانده، با عمرو بيعت کردند. على از کوتاهى و تأخيرى که در دستگيرى و زندانى کردن عمرو کرده بود تأسف خورد و پشيمان شد. به‌نظر مى‌آيد پس از قطعيت حکومت عمرو، على اقداماتى عليه برادر انجام داده که موجبات دستگيرى او را فراهم ساخته است ”و چيزها همى گفت اندر حديث عمرو و عمرو بشنيد و على را بند بر نهاد“ (تاريخ سيستان، ص ۲۳۶). عمرو پس از بازگشت به سيستان دستور داد او را آزاد کردند و درصدد جلب رضايت او برآمد.


(۱). تاريخ سيستان، ص ۲۳۴. مشخص نيست که خاتم يا مهر حکومتى را يعقوب خود به على سپرده بود يا على پس از مرگ يعقوب، آن را تصاحب کرده بود. اگر مورد اول صحت داشته باشد يعقوب على را به جانشينى ترجيح داده است اما بنا کتى معتقد است عمرو بنا به وصيت يعقوب، جانشين او گرديد (بناکتي، تاريخ بناکتي، ص ۲۱۷). نظام‌الملک نيز همين عقيده را دارد (سياستنامه، ص ۲۰).


اولين اقدام عمرو در گنديشاپور، پس از رسيدن به حکومت، اظهار اطاعت از خليفه بود. اين امر از عمرو بعيد به‌نظر نمى‌رسد زيرا او به احتمال قوى، يعقوب را به‌علت مخالفت با خليفه ترک کرده بود و مسلماً برخلاف يعقوب، حکومت استکفاء را ترجيح مى‌داد. عمرو مقابله با خليفه را امرى مشکل و دست‌نيافتنى مى‌دانست و براى مشروعيت بخشيدن به حکومتش خود را نيازمند فرمان خليفه مى‌يافت. اغلب مسلمانان نيز به حقانيت خلافت عباسى اعتقاد داشتند. به همين دليل، عمرو چاره‌اى جز اطاعت نمى‌ديد. خليفه در پاسخ خوشخدمتى عمرو، احمدبن ابى الاصبع را نزد عمرو فرستاد و از او خواست تا به نيشابور برود و در آنجا منتظر فرمان خليفه باشد (تاريخ بيهقي، ص ۲۹۳).