1977年，郭士纳接受了他在麦肯锡最大的客户—美国运通公司的邀请，离开了麦肯锡，加盟运通公司，担任公司旅游服务集团的负责人。这个集团主要经营的业务是美国运通卡、旅游支票以及旅行办公业务。由于为运通公司做了五年顾问，他对这家公司了如指掌。在对集团运营做了认真考虑之后，郭士纳将目标放在开发全球市场服务、满足客户的需求上。后来闻名遐迩的运通卡，就是郭士纳一手捣鼓红火的。在他的领导下，旅游服务集团成为20世纪80年代运通公司的最佳业绩事业部，利润不断攀升。1985年，他被任命为公司执行副总裁，地位仅次于首席执行官罗宾逊。
在随后的四年时间里，郭士纳让运通公司的净收入增长了66%。直到1989年离开，郭士纳在运通公司待了11年时间，他本人对这段时光的业绩相当满意。郭士纳及他的团队使旅行服务业的收入复利增速提升为17%，运通卡的发行量也从800万张增加到3100万张，并围绕着公司卡、销货以及信用卡加工业开拓了各种新业务。在运通公司，郭士纳还学会了如何运作一个以等级制度为基础的机构，如何使各个层次的人聚集在一起共同探讨解决问题的办法，如何整合公司业务的战略价值观。《商业周刊》（Business Week）的文章称：郭士纳组织了运通公司“漂亮的10年竞赛”。
尽管郭士纳在运通成绩斐然，但却在升迁上遇到阻力。他是那种只能当“一把手”的材料，然而，似乎唾手可得的总裁位置，却被运通并购谢尔森公司后的 “外来户”占据。1987年，联合航空公司找他当首席执行官，但却因为他的性格而搁浅，有些高管认为他不适合处理联合航空当时矛盾重重的劳资纠纷。 1989年，郭士纳终于跳槽，成为雷诺-纳贝斯克公司（RJR Nabisco）的CEO。这家公司是在原纳贝斯克公司和雷诺烟草公司（R. J. Reynolds）合并的基础上组建的，主要业务是大型袋装食品。在80年代末，它曾属于“美国90家最受尊敬的公司”之一。然而就在当时，该公司刚刚经历了美国当代商业史上一次疯狂的风险投资。众多的投资公司，在该公司的非公开杠杆收购（leveraged buy-out，LBO）中展开了一场极其激烈的竞标比赛，最终中标的是联合风险投资公司KKR（Kohlberg Kravis Roberts & Co.）。不幸的是，这次收购并不成功。收购价格高达250亿美元。面对这个大摊子，郭士纳不无感慨地说，他接过的是“美国最艰巨的工作”。
在雷诺-纳贝斯克公司的4年，郭士纳不仅要为平衡资产负债表筹集资金，而且还要努力保持公司各事业部之间的平衡。他经常问自己两个关键的问题：“你的长期发展方向在哪里？”“你应该呆在这种业务里吗？”经过考察和思考，郭士纳开始了他的“铁血政策”。他审时度势，大力推销薯片、骆驼牌香烟等畅销商品，同时撤掉了糖果等滞销食品；为了筹集资金，他在上任当年就卖掉了价值11亿美元的资产，包括集团的喷气式公务机机组和豪华的公司大厦，并裁员3000 人，砍掉了最高管理层的各种奢华开支，最终把公司巨额的财务赤字降了下来。经过郭士纳4年的运筹帷幄，到1992年，雷诺-纳贝斯克公司进入了正常的运营轨道，成为赢利企业。然而，由于当初的杠杆收购并没有给投资者带来预期的经济回报，KKR风险投资公司准备抽资退出，郭士纳也萌生了退出该公司的念头。
在雷诺-纳贝斯克的实践中，郭士纳形成了自己经营大公司的原则：要构建事业，而不是消极应对；对于大公司来说，要设法形成整体经营，而不是把完整的商业分解成独立的个体。在郭士纳的领导下，雷诺-纳贝斯克实现了近3亿美元的年净收入，比郭士纳接手时增加了14亿美元，郭士纳本人也由此赢得了“扭亏为盈魔术师”的美名。雷诺-纳贝斯克公司的经历，不但使郭士纳积累了经营公司的方法，更重要的是他对现金流在经营中的重要性有了切身感受，以致使他把“自由现金流”视为衡量一家公司是否健康发展，以及公司绩效高低的最重要指标之一。在经营这个公司的过程中，郭士纳也体会到了管理者与股东之间的利益关联。他认为，管理者有必要与股东利益保持一致。这种“保持一致”指的是经营者与投资者之间对经营理念的高度认同，以及经营方法上的高度协作，而不是仅仅采用股票期权这样的无风险工具作为对经理人的激励手段。
就在这时，IBM搜猎委员会盯上了郭士纳，看中了他挽救危机的能力，提议让他担任IBM的首席执行官。当时的IBM，正处在生死存亡的关头。它的主导产品—大型主机业务大幅度下滑，从1990年的130亿美元下降到1993年的不足70亿美元；市场地位明显下降。尤其是1992年，年度亏损就达 49.7亿美元，创美国企业亏损之最，很多人感到IBM前途渺茫。查尔斯·莫尔斯和查尔斯·弗格森在《电脑大战》中写道：“IBM几乎已经不可能再继续成为工业界的一支生力军了。”1993年，IBM的董事长兼CEO约翰·埃克斯决定退休。于是，公司组建了搜猎委员会，在公司内外考察合适的CEO候选人。委员会的负责人是吉姆·伯克，他以前在强生公司任过职，有过显赫的成就。经过IBM搜猎委员会的筛选和过滤，最终把目标锁定在郭士纳身上。1992年12月14日，伯克找到了郭士纳，向他表明IBM想邀请他做CEO，但被郭士纳婉言拒绝了。
1993年2月的一个周末，郭士纳的思想发生了改变。由于雷诺-纳贝斯克公司发生了变化，KKR公司准备放弃杠杆收购计划，再加上郭士纳觉得自己更适合于接受挑战，于是，他向IBM松口，准备试试。但是，关于IBM过多的负面报道还是让他有点担忧，当他看了IBM公司的预算以及1993年和1994 年的计划后，郭士纳认为，这个挑战过于艰巨，IBM获救的可能性不超过20%。当时IBM就像是烫手山芋，没有人敢接手这项艰巨的任务，郭士纳也没有信心。
郭士纳的拒绝并没有让伯克放弃，相反，伯克告诉郭士纳：“为了美国，你应该承担这份责任。”伯克强调，IBM是美国的财富，因此，扭转IBM的颓势应该是郭士纳义不容辞的义务。伯克对郭士纳坦言，如果郭士纳不接受这个邀请，他将请克林顿总统给郭士纳打电话。伯克的语气，无非是向郭士纳强调—你能行，而且只有你才能拯救IBM。这一点对郭士纳的回心转意起了关键性的作用。搜猎委员会的另一名委员汤姆·墨菲认为，IBM新领导人需要解决的难题，在于改变公司的战略和文化，而这正是郭士纳在美国运通公司和雷诺-纳贝斯克十分擅长的。这些对郭士纳而言，已经是轻车熟路了。他认为郭士纳完全有能力担起这项重任。
在他们的劝说下，郭士纳终于接受了这项任务。1993年3月30日，在IBM董事会例会上，郭士纳被选举为IBM董事长和CEO，两天后正式生效。这样，在1993年4月1日， 51岁的郭士纳开始了他在IBM的职业生涯。
当时IBM的情况已经十分危险，媒体甚至称它“一只脚已经迈进了坟墓”。上任之后，郭士纳迅速展开了工作。他通过短短3周调查，就给这个“蓝色巨人”做出了诊断。4月下旬，郭士纳召开了“公司管理委员会”会议，对IBM的情况做了分析。郭士纳的诊断是：公司有着雄厚的基础，但在经营上存在重大问题，主要表现是：公司失去了顾客的信任；盲目地追求事业部分权；难以形成跨部门的协作，部门之间的关系紧张；绩效评估体系混乱；电脑主机价格过高等。
据郭士纳的了解，IBM的主机价格过高是公司销售量减少的主要因素之一。当时，IBM的产品价格要比日立公司、富士通公司以及阿姆达尔公司同类产品高30%~40%。他的应急措施就是降低主机价格。正是这个降价计划，解决了IBM的短期危机。郭士纳曾经戏谑道：“如果该计划不管用，那么，我可能就是IBM的最后一个CEO了—‘最后的路易斯’。”然而，事情没有坏到那个地步，降价后，凭借IBM的家底和技术实力，主机销量逐渐上升，IBM复活了。对此，郭士纳评价说：“尽管价格并不是IBM求生存的惟一理由，但如果我们没有在关键的时候走价格这招险棋，这一切都不会发生。”
IBM复活后，如何使它重新形成竞争力，成为郭士纳下一步行动的主旨。1993年夏，郭士纳陆续推出他在IBM的一系列重大决策，致力于重新打造IBM的核心竞争力。
当时，IBM采用的是一种独占式商业模式。这种商业模式采取捆绑式销售，只要买了IBM的电脑，那么与这台电脑相匹配的微处理器、存储器等所有基础技术产品、所有与硬件相匹配的软件，以及所有系统安装和维护，都可以从IBM购得。这种模式在过去极大节省了用户的采购成本，提供了许多方便，是以往成功的法宝。但是，进入1980年代以后，迅速兴起的另一种分散式商业模式得到用户的青睐。在分散式商业模式中，很多公司针对用户的喜好和选择，不再提供整套的器材和服务，而是只提供其中的一部分。一时间大量竞争对手蜂拥而起，它们大多数只销售单一或小部分电脑产品，比如只做数据库，或者只做操作系统，甚至只做一个小软件等等。
在这种情况下，公司内外的专家多主张在IBM实现分立，以适应市场的变化。而郭士纳却对其不以为然，他认为，以分立来应对市场变化是没有弄清原因的盲目机械行动。他强调，客户之所以愿意从多个服务商那里分散购买电脑服务，目的是要打破IBM一家服务造成的垄断价格。而这种分散服务，会把运用电脑系统的整合工作留给客户自己，只要IBM能够提供价格适当的整合服务，没有一个客户愿意承担这种麻烦费事的工作。在电脑行业，别的企业都无力承担这种庞大而全面的整合服务，只有IBM拥有的全球网络才能完成它。所以，郭士纳强调，要维护IBM的完整性，每个产业都需要一个整合者，而IBM就是坐在生产线最后那个将分散的产品整合起来的人。后来，这种维护完整性的努力，成为IBM最重要的战略方向。
在企业的整合上，郭士纳做出了重大贡献。当时，IBM已经是全世界范围内规模很大的电脑公司，长期以来，美国的企业过于强调事业部分权，认为只有分权才能适应市场。然而，这种分权使各个事业部各自为政，相互之间难以有效协调和整合。就拿IBM的广告来说，1993年IBM共有广告代理机构70家，而这70家广告机构不要说协调，就连互相之间的沟通也十分欠缺，结果使IBM的广告业务一片混乱。“在同一份业内贸易杂志里，就会出现18种不同版本的 IBM广告，这些广告的设计、用词甚至是标识都各不相同。”这种状况对IBM的公司形象造成了极大的损害。对IBM的这种分立，郭士纳十分不满。他开始重整公司的职权结构，撤销公司管理委员会，重组高管团队，对公司资源、体制以及程序进行大规模调整。
