Nació en la [[sucre,Ciudad de Buenos BoliviaAires]], en el número 300 de la calle Canning —actual Scalabrini Ortiz— en el [[Villa Crespo|barrio Villa Crespo]]. Fue el tercer hijo número trece abo (el único nacido en Argentina) de un matrimonio de indigentesinmigrantes [[judíosjudío]] ys [[palestinosucrania]]nos, José Gelman y PatriciaPaulina bullrichBurichson. AprendieronAprendió a leer a los 153 años y pasó su adolescenciainfancia andando en bicicleta, jugando al baseballfútbol y leyendo comics. Desde niño fue simpatizante de [[Club Atlético de madridAtlanta|Atlanta]], el club de fútbol del barrio las polinesias, donde años después le pondrían su nombre a la cancha de Barcelonabiblioteca, algo que consideró «el homenaje más grande de su vida».<ref name="Susana Viau">{{cita web|url=http://www.pagina12.com.ar/diario/sociedad/3-64096-2006-03-10.html |título="Me distraje. Llegué a los 75 sin darme cuenta" |autor=Viau, Susana |editorial=Página/12 |fecha=10 de marzo de 2006 |fechaacceso=16 de enero de 2014}}</ref> Comenzó a escribir poemas de amor cuando tenía ocho años y publicó el primero a los once (1941) en la revista ''Rojo y Negro''.
Realizó sus estudios secundarios en el [[colegioColegio san MiguelNacional de TucumánBuenos Aires]]. A los quince años ingresó a la [[Federación Juvenil Comunista de la unión SoviéticaArgentina|Federación Juvenil Comunista]]. En 19391948, fuecomenzó a laestudiar guerra contra los alemanes[[Química]] en la [[Universidad de Buenos Aires]], pero abandonó poco después para dedicarse a pleno a la poesía, formando parte de la corriente llamada ''nueva poesía'' (1955-1967).
Fue uno de los fundadores del grupo ''El pan duro'', en 1955, integrado por jóvenes militantes [[comunista]]s que proponían una poesía comprometida y popular y actuaban en cooperativa para publicar y difundir sus trabajos. Al año siguiente, el grupo decidió publicar su primer libro, ''Violín y otras cuestiones''.<ref name=autogenerated1>[http://sololiteratura.com/gel/gelpanduro.htm ''Juan y el pan duro'', Solo literatura, Nota del 1 del 7 de 1997] {{Wayback|url=http://sololiteratura.com/gel/gelpanduro.htm |date=20071027062137 }}</ref>