吴家柱出生在辽宁复县（今瓦房店市）得利寺吴家屯。新中国成立后的1950年，吴家柱进入沈阳气体压缩机厂当工人。从此，他把自己的命运与党的事业融在了一起。
抗美援朝期间，厂里接受了生产一批汽车防滑链的任务。由于没有对焊机，吴家柱挺身把研制对焊机的任务接下来，然后他跑沈阳、跑鞍山、熬长夜，终于将对焊机制作成功。这或许是吴家柱人生中“弹奏”的第一个响亮音符。
在沈阳气压机厂，他经常从这个车间急匆匆出来，又连忙进入另一个车间。他在每台机床前不是驻足询问，就是紧盯机床的运转。他对设备的了解，比设备“主人”还清楚。
1956年，吴家柱在北京参加全国先进生产者代表会议。一次休会，别人去游览北京名胜，可他却跑到北京暖气器材厂，学习铸件焊补经验去了。原来，自己厂里的主轴箱、机体等大铸件易出沙眼，有了沙眼就得报废。厂里对此一直束手无策。此次来京，吴家柱学习了一天和一个晚上，把“窍门儿”带回来了，使厂里大批报废部件复活。1957年，厂里试制出640马力空气压缩机，但因缺少高压控制，产品不能出厂。吴家柱连夜将300马力的高压控制器改为640马力。1958年夏天，厂里52马力和190马力的气压机焖火以后产生的那些氧化皮需用手工往下敲打，耽误事啊！设计科的同志把目光投向吴家柱。吴家柱想起金属可以通过电解使其分解的道理，便跑到自行车厂拜师去了。学完招数回来后，用电解法使“连杆”上的氧化皮自行脱落，比手工处理提高效率100多倍，最高达到了206倍。
既谦虚谨慎又敢想敢干是吴家柱的性格特征。一次，他无意中听到厂长和一工程师交谈，说手工磨空压机上的“阀片”常常保不住质量。那位工程师说最近看到一本美国杂志上有研磨机的照片，但缺少文字说明。吴家柱在一旁听了，凑过去表示要“照量”一下子。工程师说：美国可是刚研究出来的。吴家柱来一句：“那怕啥？美国能研究成，咱们就能。”一旁的厂长立刻鼓励吴家柱“琢磨琢磨”。第二天，吴家柱把要研究研磨阀片机的想法向两位技术员说了。为了支持吴家柱，党支部和科里领导特批由实验室让出一台大车床，作为他们制造研磨机的专用车床。于是，这三人开始反复琢磨美国杂志上那张照片。忽然一次，他们想到了平台上的磨件，一定与平台下边的轴转有关。于是，吴家柱带着二人一次次试验，80次、90次、101次……安装电滚、安装偏心轮、直流改交流……研磨机终于研制成功了！驻厂的苏联专家科茨尼琴科给这台研磨机做出鉴定和评价说：“它具有世界水平！”
厂里要做一台“交直流混合探伤器”。这种探伤器还没有谁见过。这个东西就像大夫的听诊器一样，能把大型锻件和钢管的裂纹、暗伤探测出来。吴家柱一脚迈进了苏联专家办公室，借了张探伤器的图，又找到技术员和老工人及电工组的伙伴儿们，一番研究后，又开始试制试验。一天，吴家柱把机器上电流的一个卡子卡在部件上，铁粉竟在部件上徐徐移动，在有伤痕的部位自动打上记号。苏联专家闻讯赶来，紧紧握住吴家柱的手说：“你们很不简单，这回你们生产大型精密空气压缩机没问题了。”
1961年初，吴家柱和当时沈阳拖拉机制造厂工人出身的技术员林海丰、沈阳高压开关厂快速切削能手、工人出身的技术员吴大有参加了市总工会举办的毛主席著作学习班。学习班上，毛泽东的一句“众人拾柴火焰高”，让吴家柱忽然意识到了什么。他对林海丰和吴大有说：“三个臭皮匠，顶个诸葛亮。我们联合起来，迎着困难前进，不蒸馒头蒸（争）口气。”当时，苏联撕毁合同，撤走专家，加上国内自然灾害，使许多工厂的生产和发展陷入停滞和迷茫。进口设备出了故障，常常影响生产。这年6月，吴家柱找到林海丰和吴大有，提出大搞技术革新，互相帮助，互相交流经验的想法。此后，三人开始合作攻关。林海丰在自己的单位按照吴家柱提供的图纸研制振动研磨机。听闻试验失败的消息后，吴家柱当晚就去了林海丰试机现场，找原因，调设备，一夜未睡。第二天，能去毛刺、去锈、倒圆角和抛光的研磨机终于正常运转了。林海丰也帮助吴家柱解决了气压机厂磨床砂轮修整的难题。三人技协虽然屡出成果，但他们还是感到势单力薄。时任中共沈阳市委书记处书记的朱维仁曾向干部、劳模传达党中央号召：发愤图强，自力更生、艰苦奋斗、勤俭建国。吴家柱等三人决定联合沈阳市劳模，将技协活动搞起来。他们找到变压器厂王凤恩，东北机器制造厂尉凤英，沈阳铸造厂张成哲等。职工技术协作组织很快增加到十几人。他们常常晚上到吴家柱家里集中，为了研究技协工作，吴家柱让母亲、妻子及6个孩子挤睡在另一间屋子里，这间屋子便成了技协活动的场所。每次活动，每人都能带来一个或几个技术难题。肚子饿了，就用开水冲酱油，喝酱油汤充饥。
技协队伍如滚雪球般发展，很快突破百人。金属专家葛庭燧，焊接专家斯重遥，“刀具大王”金福长等众多高手都主动申请加入。气压机厂党委得知技协队伍扩大，便将厂专家室让给了技协。于是每当晚上和周日，上百人拿着图纸、设备模型、工卡量具等涌向气压机厂专家室。沈阳市劳模、第三机床厂工人孔庆堂在生产中遇到了不少问题，始终未能解决，闻讯找上门来。吴家柱马上约了王凤恩、张成哲等10多位技协伙伴，只几天功夫，就解决了12个难题中的9个。
技协活动在新中国的工业建设中显示了朝阳般的生机。1961年10月，中共沈阳市委在批转市总工会党组《关于劳动模范吴家柱等同志发起厂际经验交流技术协作活动的情况和对这一活动加强领导的报告》时指出，“这一活动是模范、先进人物崇高的共产主义思想的产物，是一个十分可贵的创举”。此后，吴家柱先后被选为沈阳市、辽宁省群众技术协作委员会主任。技协由最初机械行业的三个人，很快扩展到全市重工、轻工、电业、交通、基建等行业。在辽宁，有1678个大中型工矿企业开展了技协活动，技协积极分子12万人。
1963年10月4日，中共中央政治局委员、中央书记处书记彭真到沈阳，听说职工技协后，专门约见了吴家柱、林海丰、吴大有等二十几名技协骨干。彭真说，你们开展的群众技术协作活动是真正的共产主义风格，真正的群众路线，真正的“三结合”。他要求全国要向沈阳学习，技协活动要在全国开展起来。
由于长期的超负荷工作，吴家柱积劳成疾，终未躲过无情的病魔。1963年10月21日，吴家柱在沈阳陆军总院被诊断为脑瘤。次年2月20日，吴家柱病逝，年仅37岁。他逝世后，辽宁省、沈阳市领导与千余群众为他送行，表示深深的哀悼。