曾三出生于1906年，湖南益阳人，早年时期，他主要在益阳县立第二高等小学以及长沙长郡中学读书。伴随着广泛阅读进步书籍，曾三关心国家前途与命运，追求真理，向往光明，开始接受马克思主义，积极参加各种反帝反封建爱国运动，逐步成长为一名忧国忧民的进步青年。
1924年，曾三加入了共青团，入团之后，他参与了《雷声》报的创建工作，并在报纸上积极宣传爱国思想。次年，曾三转为正式党员。当时恰好是大革命时期，尤其是1926年，国民党誓师北伐后，国内革命形势空前高涨。曾三也积极宣传我党的革命思想，引导周围的群众走向进步与光明。
1927年，大革命失败后，曾三离开家乡，辗转前往汉口一带，继续为组织从事秘密工作。1930年，曾三被派到上海，进入中央特科工作。中央特科是大革命失败后我党在上海成立的政治保卫机构，全称是“中央特别行动科”，下设总务科、情报科、行动科和交通科四个科，其中交通科后来改为了无线电通讯科。
曾三进入的就是无线电通讯科，也是这段时期，他接受了系统地无线电通讯技术培训，掌握了无线电通讯的技术要领，为以后的革命工作打下了坚实的基础。1931年，顾顺章被捕后叛变，他掌握着很多重要的机密，因此，顾顺章的叛变使得上海的地下组织遭遇巨大威胁，工作几乎无法开展。
在这种背景下，曾三进入中央根据地，担任了报务员。值得一提的是，也是在中央根据地期间，他把自己过去学到的无线电通讯技术应用到实际，实现了中央红军与上海的第一次无线电通讯联系。
此后曾三投身红军的无线电通讯事业建设，在一穷二白的基础上，不仅建立了完善的无线电通讯系统，而且还培养了大批优秀的无线电技术人才，在后续的反“围剿”战斗中，无线电通讯技术发挥了重要作用，不仅提供了可靠的情报，而且还是长征的“指路明灯”。
抗日战争全面爆发后，曾三被派到新疆，进入西路军的“新兵营”担任教员，期间，他做了大量有利于抗日民族统一战线的工作，并与敌人进行了有理、有利、有节的斗争。1940年，曾三又被派到西安做秘密工作，然而，国民党反动派却不断破坏抗日民族统一战线，曾三等在白区工作的干部面临威胁，11月，曾三被调回延安，后续他主要从事机要、档案以及秘书等方面的工作，在后方支援了革命斗争，见证了抗战与解放战争的胜利。
新中国成立后，曾三陆续担任了中央办公厅秘书处处长、秘书局局长以及中央办公厅副主任等职务，他也以积极饱满的热情，投身新中国的建设。值得一提的是，曾三对档案事业的开创、建设和发展作出了不可磨灭的贡献，不仅主持建立了系统地档案归档制度，而且还对档案事业建设和档案学研究起了重要推动作用。
1966年，十年浩劫开始后，曾三也受到了造反派的冲击，但他意志坚定，与造反派进行了坚决的斗争。十一届三中全会之后，曾三恢复名誉，并进入中纪委，当选为中纪委委员。此后曾三充分发挥老干部的作用，为新时期祖国的各项建设献言献策，做力所能及的工作。
1990年，曾三因病去世，享年84岁。值得一提的是，曾三与红军无线电通讯事业的另一位创始人伍云甫还是儿女亲家，伍云甫的儿子，也就是曾三的女婿名叫伍绍祖，曾担任国家体委主任等职务，是一名正部级干部。
