Le Secrétariat général de la Commission européenne occupe une place centrale dans le fonctionnement de l'institution depuis sa création. Avec l'entrée en vigueur du Traité de fusion en 1967, le Secrétariat général est créé comme un organe unique, fusionnant les secrétariats des trois Communautés européennes. Cette restructuration renforce son poids administratif et politique, adoptant une structure similaire à celle de l'ancien Secrétariat exécutif de la Communauté économique européenne. Dans son fonctionnement et son organisation, le SG demeure largement identique à son prédécesseur. Son expansion reflète le champ d'action plus large de la Commission fusionnée, s'étendant à sept unités : Greffe ; Secrétariat des réunions de groupes et des assistants des Directeurs Généraux ; relations avec le Conseil (I) ; relations avec le Conseil (II) ; liaison avec le Parlement européen ; et Rapport général ainsi que d'autres rapports périodiques. Au fil des années, le personnel du SG augmente et de nouvelles divisions sont créées afin de répondre aux besoins évolutifs et aux nouvelles priorités. Le nombre d'unités passe de sept en 1968 à neuf en 1975, onze en 1978, douze en 1982 et treize en 1983.

Son importance s'est affirmée au fil des années, notamment sous l'impulsion d'Émile Noël, qui fut Secrétaire général de 1967 à 1987, après déjà avoir exercé la fonction de secrétaire exécutif à la Commission de la Communauté économique européenne (1958-1967). Sous l'influence de Noël, le Secrétariat général voit son importance et sa centralité accrues. Noël, fort de sa longue expérience et de ses compétences, était une figure incontournable pour les Présidents de la Commission, les commissaires et les hauts fonctionnaires, qui sollicitaient souvent son avis. Les commissaires qui avaient servi sous Hallstein étaient souvent des experts techniques ayant une longue expérience des affaires européennes. Avec le temps, le profil des membres de la Commission devient plus généraliste, renforçant le rôle du SG en tant que source d'expertise et de mémoire institutionnelle. L'expansion des compétences de la Communauté, en particulier dans les affaires économiques et extérieures, renforce encore ce rôle. Par exemple, le SG assume la responsabilité de la Coopération politique européenne (CPE), un domaine stratégique jusqu'au début des années 1990. Dans les années 1980, le pouvoir du SG atteint son apogée, grâce à l'autorité de son dirigeant, à sa mémoire institutionnelle, à son rôle de principal conseiller, de médiateur et de gardien global des procédures et de l'organisation de la Commission.

L'arrivée de Jacques Delors en 1985 marque une rupture. Son cabinet, dirigé par Pascal Lamy, prend le contrôle de nombreuses fonctions autrefois dévolues au SG, entraînant des tensions et des changements structurels. Émile Noël prend sa retraite en 1987. Son successeur, David Williamson (1987-1997), issu de la haute fonction publique britannique, adopte une approche plus bureaucratique et moins personnalisée. Sous son mandat, le SG est restructuré avec l'intention d'améliorer son efficacité. La création de huit directions et l'introduction de groupes de travail interservices facilitent une meilleure circulation de l'information et une mise en œuvre plus fluide du programme annuel de la Commission. Ainsi, le Secrétariat général, initialement conçu comme un organe administratif, est devenu un acteur essentiel du fonctionnement de la Commission européenne, à la fois mémoire institutionnelle, coordinateur des politiques et garant du bon fonctionnement de l'exécutif européen.