Grandi ble født i Milano i 1957 og har vært engasjert i flyktning- og humanitærarbeid i mer enn 30 år. Fra 2010 til 2014 var han generalkommissær i UNRWA, FNs hjelpeorganisasjon for Palestinske flyktninger, og han var visegeneralkommissær for organisasjonen fra 2005 til 2010. Han var også visespesialutsending for FNs generalsekretær i Afghanistan og har jobbet med frivillige organisasjoner samt med UNHCR i Afrika, Asia, Midtøsten og ved hovedkvarteret i Genève.
Grandi er utdannet i moderne historie fra statsuniversitetet i Milano, han har en bachelorgrad i filosofi fra det gregorianske universitetet i Roma og et æresdoktorat fra universitetet i Coventry