1986년 해태 타이거즈(현 KIA) 수석코치를 맡으며 프로야구 지도자 생활을 시작했다. 1990년 쌍방울 초대 감독에 취임했고, 첫해 4할 승률을 달성하며 지도력을 인정받았다. 1995년에는 OB 베어스(현 두산) 사령탑에 올라 두 차례 한국시리즈 우승을 이끌었다. 2005년부터는 한화 이글스 지휘봉을 잡아 2009년까지 세 차례 포스트시즌에 진출했다. 2006년 제1회 월드베이스볼클래식(WBC) 한국대표팀 감독을 맡아 4강에 올랐고, 2009년 제2회 대회에서도 한국대표팀을 이끌고 결승에 진출하며 ‘국민감독’이라는 칭호를 얻었다. 인내심과 유머를 겸비한 지도자로 야구계 인망이 두텁다.