在1960年代后期，我国航空工业开始探索一种新型轻型战斗机，它比当时世界上主流第二代战机苏联米格-19/美国F-4鬼怪更小更轻，飞行性能偏向高敏捷性。这种新型战斗机有望取代沈阳飞机制造厂大量生产的歼-6战机，即米格-19的中国仿制版本。
对新型战斗机的要求于1967年4月首次起草，到1969年已获得正式批准。除了机动性外，新型战机还需要考虑短距离起降能力，碍于当时我国航空科技与西方的巨大差距，并没有考虑垂直起降能力，这反映了当时空军高层对机场脆弱性的担忧。与歼-6一样，新型战斗机预计具备易于维护且成本低廉的特点。
有两个团队响应了研制新型轻型战斗机的挑战，沈阳飞机制造厂推出了歼-11(注意此歼-11非彼歼-11)，而南昌飞机制造厂推出了歼-12，歼-11的进展缓慢，一直停留在绘图板上，而歼-12进展迅速。在1969年8月，歼-12的基本设计获得批准，南昌飞机制造厂在18个月内完成了三架原型机。第一架原型机于1970年12月26日升空试飞，它与第二架飞行原型机一起参加了接下来两年半的评估，而第三架原型机则用于静态地面测试。
歼-12的设计团队由陆孝鹏领导，他之前曾负责强-5攻击机的全盘研制过程，这是一种从米格-19衍生而来的对地攻击机。歼-12与强-5完全不同，这是一款单座战斗机，由一台从机头进气的WP-6B涡喷加力发动机提供动力。高度后掠的机翼是为计划中的1.5马赫高速量身定制的，尽管在试飞中歼-12只能达到1.39马赫极速。歼-12在空载时重量不到7000磅，其娇小的尺寸意味着内部没有容纳火控雷达的空间。其内部燃料容量仅为2756 磅，不过可以安装一对外部油箱以飞机的航程扩展到最大861英里。而当时成都飞机公司已经开始生产仿自米格-21的歼-7战斗机，其空载重量超过10700 磅，航程约为980英里，没有外部油箱。
歼-12的武器包括机翼根部的23毫米和30毫米航空机炮，分别备有120发和80发弹药，以及一对短程红外制导空对空导弹。为了将整机重量保持在最低限度，从而提高敏捷性，歼-12的机体采用了金属蜂窝结构，并尝试应用早期复合材料技术，这在中国战斗机上属于首次，其结构中使用的其他特殊材料包括钛合金。
前两架原型机采用分半式进气口，后续制造的三架原型机采用类似于米格-21的圆锥体进气口，为了纠正一些性能缺陷，还进行了其他更改，包括更轻的机体结构和以面积规则率设计的机身。第一架改进型歼-12（又称为J-12A或J-12I）于1975年7月1日首飞。
不幸的是，即使进行了改进，歼-12的性能仍然没有达到中国空军对现代战斗机的期望。最后飞行测试计划于1977年1月结束，歼-12总共经过135次飞行，飞行时间刚刚超过61小时。在此过程中，其实南昌飞机制造厂已经确认歼-12的飞行性能优于歼-6，在机动性、速度、加速度、升限(超过57000英尺）以及起飞和着陆性能等方面都超越了歼-6，但是歼-12项目还是在1978年2月彻底中止了。
当时中国空军认为歼-12太小太轻，不能成为有前景的作战资产，但是空军确实在追求高度敏捷性的轻型战斗机，只是歼-12没有达到空军的预期。如果空军再给南昌飞机制造厂一次机会，将歼-12适当放大以容纳更多的燃料与航电设备，也许歼-12的命运会有所不同。直到几十年后，中国航空工业才真正研制出成功的的轻型战斗机，即成都飞机公司的JF-17枭龙，该机继承了冷战期间歼-12的遗志，秉承轻小敏捷的特色，在国际战斗机市场上有所斩获。
我们不该忘了陈列在中国航空博物馆的歼-12原型机，它记载着中国航空工业的艰辛岁月。
更多精彩内容请看：冷战欧洲航空科技结晶：帕纳维亚狂风变后掠翼战机研发历程(上）
挂载核弹的B-52轰炸机着火事故差点酿成比苏联切尔诺贝利更严重的核灾难
YF-22的竞争者，充满未来科幻元素的诺斯罗普YF-23隐形战机详解（上）(精彩内容）
YF-22的竞争者，充满未来科幻元素的诺斯罗普YF-23隐形战机详解（下）(精彩视频）
洛克希德把A-12“牛车”改装为YF-12A截击机，又催生了著名的SR-71“黑鸟”高空高速侦察机
