史文彬出生于1887年，山东青城（今高青）人，出生于一个普通的家庭。在史文彬的童年时期，他的家乡被黄河淹没，史文彬也被迫跟随父亲前往济南。到济南后，史文彬的父亲经营一家杂货铺谋生。在史文彬14岁的时候，他的父母先后去世，史文彬也进入济南公益学校半工半读，从少年时期就饱尝生活的艰辛。
1907年，史文彬进入济南的铁厂，成为一名白铁工，1912年，他又进入长辛店铁路机厂，继续当工人。那段时期，社会剧烈变革，尤其是反动军阀连年混战，像史文彬这样的普通老百姓，过得是水深火热的生活。
1919年，五四运动后，国内掀起了反帝反封建革命运动的浪潮，史文彬也带领长辛店铁路机厂的工人主动走上街头，支持这场正义的运动。史文彬为人仗义，团结爱护工友，在工人中威望很高。不久后，长辛店救国联合会成立，史文彬也成为救国联合会的委员之一。
对史文彬来说，1920年是改变他命运的一年，这一年，我党早期党员邓中夏到长辛店铁路机厂演讲，史文彬积极组织工友学习，也是这段时期，他接触到马克思主义。经过一段时间了解后，史文彬也坚定了内心对马克思主义的信念，1921年7月，他光荣地加入了我党，成为长辛店铁路机厂的第一个党员，同时也是最早的工人出身的党员之一。
入党之后，史文彬在组织的领导下投身工人运动，尤其是在京汉铁路大罢工过程中，发挥了重要的作用，他也因此被反动军阀视为“眼中钉”。1923年，史文彬不幸被捕，被关入保定的监狱之中。1924年，在组织的营救下，史文彬恢复了自由。
恢复自由后，史文彬辗转保定、张家口以及广州等地，继续从事工人运动，尤其是在领导全国铁路工人大罢工过程中，史文彬做了大量卓有成效的工作，为大革命浪潮的兴起贡献了一份力量。
1927年，大革命失败后，史文彬没有对革命灰心，他的工作也转入地下，继续在武汉为组织从事秘密工作，并力所能及地保护其他革命同志。1928年年初，史文彬被调到上海工作，这一年，“六大”在莫斯科召开，史文彬虽然没有参加会议，但依然当选为第六届中央候补委员。
1929年1月，史文彬被调到河南，担任了河南省委书记。史文彬虽然仅仅担任了三个月时间的河南省委书记，但他认真总结大革命失败的经验教训，领导建立了豫南、豫北特委，在白色恐怖笼罩的年代，为恢复河南省的基层组织作出了重要的贡献。
1931年，史文彬参加了六届四中全会，期间，他因为反对王明的“左倾”错误被开除了党籍。被开除党籍后，史文彬离开上海，经青岛回到济南，一段时间后，他返回老家，以修理钟表为生。因为史文彬不再参加革命活动，所以他也与组织失去了联系。
1941年，史文彬得知八路军在家乡一带活动时，便安排自己的儿子与组织取得了联系。清西军分区得知史文彬的情况后，把这件事汇报给中央。不久后，经过中央批准，史文彬被接到清河区抗日根据地疗养，1942年，史文彬因病去世，享年55岁。
