毕业之后，他先后做过推销员、演员等，但这些只是工作，都不是他的理想。他认为他应该过有意义的生活，这比赚钱更重要。他想开办公开演讲课，因为他认为这样的课程能够扫除人的怯懦和自卑，让人们有勇气和信心跟人打交道，增长做人处世的智慧。于是他说服了纽约一个基督教青年会的会长，同意他晚间为商业界人士开设一个公开演讲班。从此，他开始了为之奋斗一生的成人教育事业。
卡耐基的公开演说课，采取启发式教学，由他和学员们共同参与实施、专门设计以实际的经验来训练人的思维能力。并且让学员在众人面前讲演，以便能更清楚、更有效、更泰然自若地表达自己的意思。
后来，卡耐基又发现，这些人不仅需要“语言突破”，还需要一种在日常事务和社交中与人相处的做人处世的艺术，于是他相继又开设了人际关系班、推销人员班、管理讲习班、顾客关系班、人脉发展班等，开创和发展了一种融合演讲技巧、推销技巧、做人处世技巧和实用心理学的训练方式。
卡耐基很赞成这样的一种观点，即一个人事业上的成功，只有15%是由于他的专业技术，另外的85%要靠人际关系、处世技巧。因此，他的基本哲学思想，就是着眼于人的自信心的培养和人与人之间的沟通、交往、宽容，并汲取了行为科学和心理学的新成果，使人们成为事业成功、家庭幸福、生活快乐的人。