Ancien député du Doubs, ancien député européen, il a été président de la Communauté d’agglomération du Pays de Montbéliard depuis 2008 et conseiller municipal de Valentigney. Ancien ministre délégué chargé des Affaires européennes (1997-2002), il a été ministre de l’Economie et des Finances de 2012 à 2014.
En novembre 2014, il est nommé commissaire européen aux Affaires économiques et financières, à la fiscalité et à l’union douanière au sein de la commission Juncker. Il occupe cette fonction jusqu’à la fin de la législature, en novembre 2019. En juin 2020, le président Emmanuel Macron le nomme premier président de la Cour des comptes. En novembre 2023, il est élu au comité chargé de l’audit externe des Nations unies
