1865年3月6日，段祺瑞出生于安徽省六安县太平集，原名启瑞，字芝泉。
段家原籍江西波阳，明末因战乱迁至安徽，父亲段从文是个典型的庄稼汉，祖父段佩却是淮军统领。
祖父病故后，16岁的段祺瑞徒步千里前往山东威海，在族叔段从德营中做了一名司书。
次年，父亲在看望他的归途中被人害死，母亲范氏不久也撒手人寰。
1885年6月，清朝洋务派代表李鸿章创办北洋武备学堂，同年9月，段祺瑞以优异成绩考入武备学堂第一期预备生，随即分入炮兵科。
段祺瑞“攻业颇勤敏，以力学不倦见称于当时，治学既专，每届学校试验，辄冠其侪辈，与王士珍等齐名于世”，受到李鸿章的器重。
1888年，段祺瑞以第一名的成绩，被官费派往柏林军校学习两年，回国后任武备学堂教官。
甲午战争中，段祺瑞率学生为阵地搬运炮弹，抗击日军。
1895年12月，袁世凯在天津小站训练新式陆军，请荫昌推荐人才。次年初，段祺瑞被调往天津小站，任新建陆军左翼炮队第三营统带，随即兼行营武备学堂炮队兵官学堂监督、代理总教习。
段祺瑞原配吴氏出身书香门第，1900年亡故，于是袁世凯将义女张佩衡许配给了他。
北洋军成立了三个协，按照德军的方式，出任协统需要参加笔试。王士珍冯国璋都已担任协统，唯独段祺瑞两次未通过。
在第三次临考的前一天，袁世凯派人将考题透出，总算让他当上了协统。
每每谈及此事，段祺瑞都觉得“恩深义重，终身不忘”。他不仅手握重兵，还兼任学堂督办，所以门生故吏遍布北洋。
1908年11月，慈禧和光绪先后病死，摄政王载沣欲杀袁世凯，段祺瑞制造假兵变，致使载沣不敢动手。
1909年1月2日，军机大臣、外务部尚书袁世凯被“着即开缺，回籍养疴”。袁世凯临走前将北京私宅赠与段祺瑞，段祺瑞仍留军中，常赴河南彰德与袁世凯密议。
始终与其暗通曲直，牢牢把握军权。
1911年10月10日，武昌起义爆发，袁世凯出山，急令段祺瑞为第一军统领兼湖广总督。
段祺瑞由于早年出国留学，接受了西方民主共和的思想，深知中国的落后源于集权腐败的统治。
于是在讨伐革命军时，并不真的大举进攻，而是与革命军谈判，并接连电告清廷内阁、军咨府、陆军部，声言：“共和思想已深入将士之心，将领颇有不可遏之势。压制则立即暴动，敷衍亦必全溃。”
1912年1月26日，段祺瑞联名握有重兵的46名将领，致电清廷内阁、军咨府、陆军部，一致要求“明降谕旨，宣示中外，立定共和政体。清廷如不速断，则江海尽失，势成坐亡”。
2月5日，段祺瑞再率第一军全体将领致电清廷。
2月12日，隆裕太后宣布清帝退位。
1915年，段祺瑞反对袁世凯称帝，一天，袁世凯召见段祺瑞，想探探他对自己称帝的口风，段很坦诚地说：“不忍见总统为眼前罪人，乞宸衷独断，毅然取消。”袁世凯听了极不高兴，不出三天，将其免职。
袁称帝前，他曾五次劝阻，结果三次被拒绝，两次吃了闭门羹。
他劝阻袁世凯称帝，说此事关系国家安危及袁氏身家性命是万不能做的。
袁世凯死后，段祺瑞推举黎元洪任大总统。
1920年直皖战争结束后，段祺瑞被逐出北京，避居于天津日本租界。
1924年北京政变之后，冯张力邀段祺瑞、孙中山入京共商国是。
11月中旬，组成中华民国临时执政府，以段祺瑞为临时执政，兼有总统、总理双重权力。
1926年3月18日，北京群众5000余人，由李大钊主持，在天安门集会抗议，要求拒绝八国通牒。
段祺瑞执政府竟下令开枪，当场打死47人。3月19日，各地舆论纷纷谴责国务院门口屠杀。
4月9日被冯玉祥、鹿钟麟驱逐下台，避入东交民巷法使馆。
后联奉军不成，20日被迫下台，退居天津日租界当寓公，潜心佛学，自号“正道居士”。
段祺瑞一向是单开伙食，吃素后更简单了，每餐两三样菜。
他辟了一间佛堂，每天清晨焚香诵经做早课，午睡后，下下围棋，打打麻将。
当年吴炳湘奉命查官员赌博的事，名列榜首的就是段祺瑞。
段祺瑞在私人品行上一向无亏，号称“六不总理”：不贪污肥己，不卖官鬻爵，不抽大烟，不酗酒，不嫖娼，不赌钱。
张夫人只生了四个女儿，便为他娶了五个姨太太，多是买来的女子，其中四姨太原有意中人，他非但没责怪，还以女儿之礼嫁了出去。
段祺瑞晚年始终保持气节，拒不与日寇合作。
九一八事变后，日本扶持溥仪成立了伪满洲国，特务头子土肥原贤二又多次到天津秘密拜访段祺瑞。
为避免日本人的要挟，段祺瑞举家前来上海，公开表明自己的抗日态度。
他接受《申报》记者采访时说：“日本暴横行为，已到情不能感、理不可喻之地步。
我国惟有上下一心一德，努力自求。语云：求人不如求己。全国积极准备，合力应付，则虽有十日本，何足畏哉？”
“爱国朝野一致，救国惟有自救耳。”
1936年11月2日，段祺瑞因胃病发作而逝世，终年72岁。
他给政府留下亲笔遗嘱，即“八勿”之说：勿因我见而轻启政争；勿空谈而不顾实践；勿兴不急之务而浪用民财；勿信过激之说而自摇邦本；讲外交者勿忘巩固国防；司教育者勿忘保存国粹；治家者勿弃固有之礼教；求学者勿骛时尚之纷华。
国民政府特予国葬，按佛教礼仪大殓，上海下半旗志哀，灵柩运抵北平西山卧佛寺后殿。
吴佩孚评价他说：“天下无公，正未知几人称帝，几人称王，奠国著奇功，大好河山归再造；时局至此，皆误在今日不和，明日不战，忧民成痼疾，中流砥柱失元勋。”
天津《大公报》更是评价道：段先生对于中华民国的关系之大，为孙中山先生及袁项城以外之第一人。
