Cuando el presidente guatemalteco fue derrocado por un golpe de Estado en 1982, el religioso pudo regresar a su país. Fue nombrado obispo auxiliar de la Archidiócesis de Guatemala, y participó en la creación de la Oficina de Derechos Humanos del Arzobispado de Guatemala (ODHAG).

No obstante, su trabajo más importante y destacado fue un proyecto para la Recuperación de la Memoria Histórica (REMHI), con el que Gerardi se implicó de lleno con el fin de exponer la verdad de lo que ocurrió durante el enfrentamiento armado para que el pueblo de Guatemala no volviera a sufrir una tragedia similar.

Este proyecto, que comenzó incluso antes del fin oficial del conflicto, incluía cientos de entrevistas realizadas por Gerardi y sus compañeros en las que los guatemaltecos describían sus experiencias e identificaban a los responsables de los enfrentamientos.

Gerardi reunió los resultados del proyecto REMHI en el informe 'Guatemala: Nunca Más' y lo hizo público el 24 de abril de 1988, incriminando especialmente a las Fuerzas Armadas de Guatemala. Según los datos del estudio, el Ejército era responsable de casi el 90 por ciento de las violaciones de los Derechos Humanos cometidos durante el periodo de 36 años de guerra civil, mientras que los grupos guerrilleros eran culpables de un 9 por ciento.