Jean-Jacques Beuve-Méry milite après-guerre dans le mouvement de jeunesse international Concordia et devient responsable de la liaison avec le Jugendgemeinschaftdienst. Après avoir étudié le droit à l'université de Paris, il obtient sa licence et son certificat d'aptitude à la profession d'avocat en 1953, ainsi que le diplôme en études supérieures de droit romain et de droit privé en 1955. En mars 1958, Jean-Jacques Beuve-Méry devient l'assistant de Michel Gaudet au Service juridique de Haute autorité. Quelques mois après, il change de poste pour prendre en charge, avec Jochen Thiesing, le dossier de la concurrence (ententes, positions dominantes et aides). Selon le principe de rotation établi dans le Service, il travaille ensuite avec l'avocat Paul Leleux au rapprochement des législations, notamment sous l'aspect des entraves techniques aux échanges (en particulier dans le domaine de la législation alimentaire et de la reconnaissance professionnelle des diplômes).