Gérard Olivier passe sa thèse de doctorat en droit puis étudie à l’Ecole Nationale d’Administration (1948-1950). Affecté au ministère de l'Intérieur, il est nommé chef de cabinet du préfet de Meurthe-et-Moselle (1950-1952) puis secrétaire général de la préfecture du Jura (1952-1955). Gérard Olivier devient ensuite conseiller juridique de la Haute autorité (1955-1967). Après la fusion des exécutifs, il est directeur, puis directeur général adjoint au Service juridique de la Commission des CE (1967-1973). Après la cessation de ses fonctions à la Commission, il est maître des requêtes au Conseil d’Etat (1973-1982) puis conseiller-maître à la Cour des Comptes (1982-1987). Entre 1987 et 2002, il est avocat au Barreau de Paris. En 2003, il est président de section à la commission des recours des réfugiés (2003). Gérard Olivier est chevalier de la Légion d’Honneur (1973) et officier de l’ordre national du Mérite (1986).