El gusto por la política lo heredó de su padre, también llamado Carlos Holmes Trujillo, quien fue congresista del Partido Liberal y padre del también exsenador José Renán Trujillo.
Constituyente, ministro en varias ocasiones, diplomático y candidato a la vicepresidencia, Carlos Holmes Trujillo se graduó como bachiller del colegio Pio XII de Cali, su ciudad. Luego como abogado en la Universidad del Cauca, en donde se especializó en derecho penal y criminología y fue máster en negocios internacionales de la universidad de Sofía de Tokio, Japón. Lea aquí: Fallece el ministro de Defensa, Carlos Holmes Trujillo, de COVID-19
Su experiencia en lo público la inició como cónsul y encargado de negocios en la embajada en Tokio, entre 1976 y 1982, periodo que corresponde a los gobiernos de Alfonso López Michelsen y de Julio César Turbay.
A su regresó a Cali, a inicios de los ochenta, fue Secretario de Hacienda del alcalde Julio Riascos y luego presidente de Fedemetal, el gremio metalúrgico, entre 1983 y 1985. En el periodo 1988-1990 fue el primer alcalde de Cali elegido popularmente.
Fue fundador y primer presidente de la Federación Colombiana de Municipios, de 1989 a 1990. Entre 1992 y 1994 fue nombrado ministro de Educación de César Gaviria.
Hizo parte de la Asamblea Nacional Constituyente y posteriormente Alto Comisionado para la Paz desde 1994 a 1995, durante el gobierno de Ernesto Samper; en el mismo mandato fue embajador permanente de Colombia ante la OEA, de 1995 a 1997.
Su historia con el uribismo inició con su candidatura a la Gobernación del Valle en 2003, como liberal uribista y defensor de la política de Seguridad Democrática. Pero resultó derrotado por el líder sindical y exvicepresidente, Angelino Garzón.
Ya en el gobierno de Uribe Vélez, continuó ocupando cargos diplomáticos: primero como embajador en Suecia, entre 2004 y 2006, y luego como embajador no residente ante los gobiernos de Austria, Rusia, Suecia, Noruega, Finlandia, Islandia, Dinamarca, Bélgica y Luxemburgo y como Jefe de la Misión de Colombia ante la Unión Europea.
En el gobierno del presidente Iván Duque comenzó como canciller, y luego de la renuncia de Guillermo Botero, el mandatario lo designó como Ministro de Defensa.