De nationalité luxembourgeoise, Jim Cloos entre à la Commission européenne en 1985 en tant que membre du cabinet du commissaire alors chargé de l'énergie. En 1987, il rejoint la Représentation Permanente du Luxembourg auprès des Communautés européennes, en tant que Premier secrétaire, conseiller adjoint, et conseiller de légation (1987-1991), puis en tant que Représentant permanent adjoint (1991-1992). De 1993 à 1994, il est chef de cabinet du Commissaire de l'agriculture au sein de la Commission européenne. De 1995 à 1999, il est chef de cabinet du Président et Sherpa dans le cadre du G7/8. En 2000, il retourne à la Représentation Permanente du Luxembourg auprès de l'Union européenne en tant que Premier Conseiller. En 2001, il entre au Secrétariat Général du Conseil de l'Union européenne et y exerce les fonctions de directeur chargé des relations transatlantiques, de l'Amérique Latine, de l'ONU, des droits de l'homme et de la lutte contre le terrorisme (aspects externes) (DG E IV).