季氏家臣阳虎擅权日重，孔子不满家臣掌政的局面，选择退隐，专注于修著《诗》《书》《礼》《乐》，众多弟子追随左右，共同学习。
尽管孔子起初拒绝与阳虎会面，但后来两人在路上相遇，阳虎劝孔子出仕，不久后孔子被升为小司空。鲁定公十年（公元前500年），孔子升任鲁国大司寇，代理国相事务。上任仅七日，他便诛杀少正卯，并曝尸三日，鲁国由此实现大治。然而，孔子诛杀少正卯的原因至今仍是历史悬案，从孔子的言论推测，可能是二人政见严重冲突，少正卯的学说与孔子的执政理念相悖，孔子认为其有祸乱社会之嫌。
鲁定公十二年（公元前498年），为削弱三桓（季孙氏、叔孙氏、孟孙氏三家世卿）的势力，孔子采取了“隳三都”的措施，即拆毁三桓所建的城堡。但这一行动最终半途而废，孔子与三桓的矛盾也随之公开化。鲁定公十三年（公元前497年），五十五岁的孔子对鲁国的政治局势感到失望。齐国送来八十名美女，季桓子接受后，君臣沉迷歌舞，不理朝政。在鲁国举行郊祭后，按惯例应送给大夫们的祭肉也没有送到孔子手中，这无疑是季氏不再任用孔子的信号。无奈之下，孔子离开鲁国，踏上了周游列国的旅程，试图在其他国家实现自己的政治抱负。
鲁定公十四年（公元前496年），孔子带领弟子来到卫国。在卫国，孔子受到卫灵公夫人南子的召见，这一举动引发了弟子子路的不满与批评。在此期间，郑国的子产去世，孔子听闻后悲痛不已，称赞子产是古代流传下来的慈惠之人。
起初，卫灵公对孔子颇为尊重，按照鲁国的俸禄标准给予孔子俸粟6万，但并未赋予他实际官职，也不让他参与政事。孔子在卫国居住约10个月后，因有人进谗言，遭到卫灵公的怀疑和监视，无奈之下，他只好带领弟子离开卫国，前往陈国。然而，在路过匡城时，因误会被围困5日；逃脱后到达蒲地，又遭遇卫国贵族公叔氏叛乱，再次被困。历经艰难险阻逃脱后，孔子又返回了卫国。此后，孔子多次离开卫国又返回，一方面是因为卫灵公对他的态度时好时坏，另一方面则是离开卫国后，他一时找不到更好的去处。
鲁定公十五年（公元前495年），孔子离开卫国回到鲁国。鲁哀公元年（公元前494年），吴国派人到鲁国聘问，并就“骨节专车”一事向孔子请教。鲁哀公二年（公元前493年），孔子再次来到卫国，面对卫灵公的问政，他婉言拒绝。由于在卫国难以施展抱负，孔子离开卫国西行，途经曹国、宋国时，均遭遇冷
…。。