ولد الفقيد احمد عبدالله الطيب عام 1937م في قرية "امسقالة" بمديرية لودر، محافظة أبين. تلقى تعليمه الأولي في كتاتيب القرية وعلى يد والده، الذي كان كاتباً ومرجعاً إصلاحياً واجتماعياً بارزاً في المنطقة.
في عام 1957م، التحق بالخدمة العسكرية في سن مبكرة، وتلقى تدريبه في عدة معسكرات أبرزها معسكر "ليك لاين" (عبد القوي حالياً)، ونظراً لتميزه، جرى ابتعاثه للدراسة العسكرية في بريطانيا عام 1964م، ونال خلال مسيرته عدة أوسمة رفيعة منها "وسام الشجاعة".
تدرج في الرتب العسكرية حتى وصل إلى رتبة "نقيب"، وخلال خدمته تنقل بين معظم المحافظات والمدن الجنوبية كعدن، وزنجبار، ومكيراس، والضالع، وعتق، وبيحان. وخلال هذه الفترة، انخرط في العمل الوطني السرّي وكان من الضباط المؤسسين لتنظيم "الضباط الأحرار" الذي جابه الاستعمار البريطاني.
مع نيل الاستقلال، تولى مناصب قيادية وحساسة في الدولة الوليدة، شملت: أركان معسكر صلاح الدين، قائد الاستخبارات العسكرية، مستشار القائد الأعلى للقوات المسلحة، وعضوية مجلس التنسيق.
عقب التحول السياسي والانقلاب على الرئيس قحطان الشعبي، صدر قرار بنفيه كلاجئ سياسي إلى مصر، غير أن التوجيهات ألغيت وهو في المطار، ليتم تسريحه من الجيش واعتقاله في سجن المنصورة لمدة قاربت العامين.
وبعد سنوات من الإقصاء، وجّهت الدولة بتسوية أوضاع العسكريين المبعدين؛ حيث جرت تسوية وضعه أولاً برتبة «مقدم» أُحيل على إثرها إلى التقاعد، تلا ذلك مرحلة تسوية إضافية ومتقدمة للمبعدين مُنح خلالها رتبة عميد.