1927년 폴란드의 자유시 단치히에서 상인의 아들로 태어났다. 2차 세계 대전 중에 열일곱의 나이로 히틀러의 나치 친위대에 징집되어 복무한 적이 있고, 미군 포로수용소에 수감되기도 했다. 전쟁이 끝난 후 뒤셀도르프 예술 아카데미와 베를린 조형 예술 대학에서 조각을 공부했고, 농장 노동자, 조각가, 재즈 음악가 등 여러 직업을 전전하다가 1954년 서정시 경연 대회에 입상하면서 등단했다. 1958년 첫 소설 『양철북』 초고를 전후 청년 문학의 대표 집단인 47그룹 모임에서 낭독해 그해 47그룹 문학상을 받았고, 이후 게오르크 뷔히너 상, 폰타네 상, 테오도르 호이스 상 등 수많은 문학상을 수상했다. 1961년부터는 사회민주당에 입당해 활발한 정치 활동을 펼쳤다. 1960년대에 『고양이와 생쥐』(1961), 『개들의 세월』(1963)을 발표해 『양철북』의 뒤를 잇는 '단치히 3부작'을 완성했다. 1976년 하인리히 뵐과 함께 문학잡지 《L'76》을 창간했고 하버드 대학교에서 명예박사 학위를 받았다. 이어 『넙치』(1977), 『텔크테에서의 만남』(1979), 『암쥐』(1986), 『무당개구리 울음』(1992), 『나의 세기』(1999) 등을 발표했고, 1995년에 독일 통일을 비판적으로 바라보는 작품 『또 하나의 다른 주제』를 내놓았다. 1999년에 독일 소설가로는 일곱 번째로 노벨 문학상을 받았다. 2002년에 오십 년 넘게 금기시되었던 독일인의 참사를 다룬 『게걸음으로 가다』를, 2003년에 시화집 『라스트 댄스』를 발표했다. 2006년 자서전 『양파 껍질을 벗기며』에서 10대 시절 나치 친위대 복무 사실을 처음으로 인정해 엄청난 논란을 불러일으켰고, 2008년에는 그 후속편으로 여겨지는 자전 소설 『암실 이야기』를 출간했다. 2015년 4월 13일 여든여덟의 나이로 숨을 거두었다.