Giancarlo Zoli est issu d’une famille originaire de la Romagne et installée à Florence. Il est l’un des fils d’Adone Zoli qui a été plusieurs fois ministre et président du Conseil en 1957-1958.
Il obtient brillamment sa licence en Droit en 1939. Membre de l’Action catholique, il est l’un de ses dirigeants.
En raison de sa participation à la Résistance à Florence et à la fondation de la Démocratie chrétienne dans la période clandestine il est arrêté deux fois par les nazifascistes. Il est, ensuite, membre de la direction nationale de l’Association des Partisans chrétiens et président de l’Institut historique de la Toscane pour l’histoire de la Résistance.
Nommé conseiller municipal de Florence pour l’Assistance, il est, en outre, très brièvement maire de Florence en 1974. Au sein de l’administration communale florentine, Zoli est chef du groupe de la majorité dans l’assemblée municipale, assesseur à l’Urbanisation et aux Affaires légales. Il s’occupe notamment du dossier des logements, en particulier après l’inondation qui frappe Florence en novembre 1966.
Il est deux fois candidat au Sénat de la République. Il participe, par ailleurs, à partir du 23 septembre 1956, aux activités du Conseil des Communes d’Europe (ensuite Conseil des Communes et des Régions d’Europe). Il est, à ce titre, membre de la direction de la section italienne.
Giancarlo Zoli est pendant vingt ans membre du Comité économique et social de la CEE. Il s’occupe, en tant que chef de groupe ou rapporteur, des questions de l’environnement et de la santé, des élargissements, des relations avec le Tiers monde, ainsi que de la politique sociale et de l’énergie.
En 1953, il devient membre du Mouvement fédéraliste européen dont il sera dirigeant.