Carlo Scarascia-Mugnozza passe son baccalauréat en 1938, il obtient son diplôme de Droit à l’université du Latran. Enrôlé comme volontaire, il s'embarque avec le grade de sergent pour le front de l’Afrique du nord où il est décoré de la Médaille d’argent et de la Croix de guerre. De retour en Italie, il suit la formation d’élève-officier puis, en 1945, devient avocat et s’inscrit à la Démocratie chrétienne dont il est nommé, en 1946, secrétaire politique provincial dans les Pouilles (Puglia), sa région d’origine. Suivent son élection comme conseiller communal et adjoint aux finances de la municipalité de Brindisi, et comme président du consortium agraire et de l'association des agriculteurs. Elu à la Chambre des députés en 1953, il y retrouve Aldo Moro, président du groupe parlementaire démocrate-chrétien, qu’il connaît depuis leur enfance passée à Bari. En parallèle, il est nommé sous-secrétaire d'Etat à l'Instruction publique en 1962 (aux côtés du ministre Aldo Moro, sous le gouvernement d’Amintore Fanfani) et de la Justice en 1963 (sous le gouvernement de Giovanni Leone). Durant le même temps, il occupe à plusieurs reprises les fonctions de conseiller national du parti démocrate-chrétien et participe aux travaux de la commission spéciale chargée de l'élaboration des dispositions prévues par les traités de Rome. Son mandat parlementaire lui ayant été étant renouvelé durant quatre législatures, il fait partie pendant une dizaine d’années de la commission Agriculture, domaine où son action remonte à sa participation aux initiatives réformistes nées dans l'immédiat après-guerre pour remédier à la grave situation du monde rural (nouvelle législation agraire, redistribution des terres incultes des domaines latifondiaires, redéfinition des baux, fondation de la 'Coldiretti', de la Confédération nationale des coopératives et de la 'Confagricoltura').
À partir de février 1961, il est aussi membre du Parlement européen où il siège au sein du Groupe Démocrat-Chrétien et s’occupe des relations internationales : il conduit par deux fois la délégation italienne dans le cadre de la préparation de la Conférence des Nations Unies sur l’environnement. En mars 1968, il accède à la présidence de la Commission politique au sein de laquelle il joue un rôle de premier plan notamment comme rapporteur sur les questions de la jeunesse et de l'Union politique. On signalera plus particulièrement à cet égard son rapport de septembre 1971 sur l'avenir politique des Communautés européennes qui sera partiellement repris dans le rapport Vedel. En mars 1972, Carlo Scarascia Mugnozza est nommé vice-président de la Commission européenne présidée par Sicco Mansholt, fonctions qu'il conserve dans la Commission François-Xavier Ortoli (1973-1977). Ses compétences comprennent la politique agricole, les affaires parlementaires, l'environnement, la protection des consommateurs, les transports et l'information. Ses propositions en faveur d'une politique méditerranéenne globale ont un profond retentissement au sein des instances communautaires. De 1982 à 1990, il préside le Centre international de hautes études agronomiques méditerranéennes à Paris.