La CIA est fondée en 1958 lors du Congrès international anarchiste de Londres (25 juin au premier août 1958) avec pour mission de poursuivre le travail de la CRIA et notamment d'organiser le prochain congrès. La Conférence de Londres a décidé d'organiser un réseau de membres correspondants, choisis par les différentes organisations, groupes ou individus anarchistes dans leur pays. Ces membres correspondants sont chargés de faire suivre toutes les informations et communications au secrétariat de la CIA. Celui-ci doit publier un bulletin. La Conférence a en outre décidé d'établir le secrétariat à Londres. Sur la base des décisions de la Conférence de Londres, un groupe organise concrètement le fonctionnement du secrétariat au cours d'une réunion le 12 octobre 1958 à Londres. Il est notamment décidé de nommer John Gill (Giovanni Baldelli) secrétaire et Charles I. Fraser, du groupe Freedom, trésorier.

La CIA ne parviendra pas à organiser un nouveau congrès international. Le secrétariat de Londres cesse peu à peu de fonctionner. En 1964, le Mouvement libertaire espagnol en exil propose d'assumer le secrétariat mais l'appartenance du MLE à l'AIT semble poser des difficultés. La même année, un groupe belge, le Cercle la Boétie propose d'organiser une conférence internationale à Buckeber (Hannovre, Allemagne) qui se tient effectivement du 25 au 29 juillet 1964.

En 1966, John Gill (Giovanni Baldelli) se joint, en tant que secrétaire de la CIA, aux travaux de la Commission préparatoire du Congrès international créée à l'initiative des Fédérations anarchistes française et italienne. Les travaux de cette commission débouchent sur l'organisation du Congrès international de Carrare (Italie) qui est le premier Congrès international des Fédérations anarchistes et qui marque la naissance de l'IAF-IFA (International des fédérations anarchistes). On ne trouve pas trace d'une dissolution formelle de la CIA.