1936년 경남 진영에서 태어나 서울대학교 사범대학 국문과를 졸업하고 같은 학교 대학원 국어국문학과에서 박사학위를 받았다. 1962년 『현대문학』을 통해 비평을 발표하기 시작했다. 1979년 10월부터 2001년 8월까지 서울대학교 인문대학 국어국문학과 교수로 재직하였고, 2001년 11월부터 명예교수를 지냈다. 2018년 10월 작고하였다. 지은 책으로 『한국근대문예비평사연구』 『한국문학사』(공저) 『한국근대문학사상비판』 『한국근대문학사상사』 『한국 현대 현실주의 소설 연구』 『한국소설사』(공저) 『일제 말기 한국 작가의 일본어 글쓰기론』 『해방공간 한국 작가의 민족문학 글쓰기론』 『일제말기 한국인 학병세대의 체험적 글쓰기론』 『문학사의 새 영역』 등의 문학사 및 문학이론 연구서와 『이광수와 그의 시대』(전 3권) 『김동인 연구』 『이상 연구』 『임화 연구』 『김동리와 그의 시대』 『백철 연구』 등의 개별 작가론, 『오늘의 작가, 오늘의 작품』 『비평가의 사계』 『현장에서 읽은 우리 소설』 등의 현장비평서와 『김윤식 선집』(전 7권) 등이 있다. 1973년 현대문학 신인상(평론 부문), 1987년 한국문학 작가상과 대한민국문학상(평론 부문), 1990년 김환태평론문학상, 1991년 팔봉비평문학상, 1994년 요산문학상, 2002년 대산문학상(평론 부문), 2003년 만해대상(학술 부문), 2008년 청마문학상, 2011년 수당상(인문사회 부문), 2014년 이승휴문화상(문학 부문)과 민세상(학술연구 부문) 등을 수상했다.