La consciència internacionalista dels treballadors va sorgir gairebé al mateix temps que els moviments obrers organitzats. Ben aviat els pensadors obrers van adonar-se que aquests eren membres d’una mateixa classe per sobre dels Estats i les fronteres. Així, quan a mitjans del segle XIX el nombre de treballadors, d’organitzacions obreres i de pensadors socialistes era ja prou important, va començar a perfilar-se la idea de la necessitat d’unir esforços per tal de combatre el capitalisme de manera més eficaç. La publicació, el 1848, del Manifest Comunista, elaborat per Marx i Engels, va donar un gran impuls en aquesta direcció, perquè al seu escrit feien una crida als treballadors del món perquè s’unissin en una organització de caràcter internacional.
Van ser els contactes entre les dues classes obreres més importants d’Europa en aquell moment, la britànica i la francesa, els que van donar lloc a l’origen de la formació de l’Associació Internacional de Treballadors (AIT). Dirigents obrers de França van acudir el 1862 a l’Exposició Universal de Londres, on van prendre contacte amb els seus companys anglesos i van conèixer l’organització de les Trade Unions i la conquesta dels drets d’associació per part dels obrers britànics. Així, desprès de diversos contactes, el 1864, van decidir fundar l’AIT, formada per seccions o federacions dels diversos països i dirigida per un Comité Central. L’organització era essencialment de grups obrers, però s’hi van afegir ràpidament tot un seguit de grups, tendències o personalitats que, des de diversos camps, intentaven lluitar per la transformació de la societat (socialistes, proudhonians, sindicalistes, anarquistes, etc.).
La tasca d’organitzar la nova Associació va quedar encarregada a un Consell General, encapçalat per Marx, que en aquell moment estava exiliat d’Alemanya i refugiat a Londres. Ell seria l’encarregat de redactar els estatuts i el manifest inaugural de l’AIT i va deixar clars els dos principis bàsics de la nova organització: que l’emancipació de la classe obrera havia de ser obra dels mateixos treballadors i que la conquesta del poder polític havia de ser el primer objectiu a aconseguir pels obrers per d’aquesta manera poder alliberar-se de l’opressió econòmica.
Els primers congressos de l’AIT van celebrar-se a Ginebra, el 1866, amb l’assistència de 60 delegats, el 1867 a Lausana i el 1868 a Brussel·les. En aquests congressos s’hi van prendre uns quants acords que van tenir molta influència a l’hora de fixar una sèrie de reivindicacions concretes en les lluites obreres i que van ser els eixos que van conduir l’acció dels sindicats obrers fins al començament del segle XX. Les demandes formulades anaven des de la joranda laboral de vuit hores, la supressió del treball infantil i la millora de les condicions de treball de les dones, fins a la lluita contra els exèrcits permanents, la legitimitat i la necessitat de les vagues com a mitjà de lluita o l’abolició de la propietat individual dels mitjans de producció i la seva substitució per la propietat col·lectiva.
La força que va tenir l’Associació Internacional de Treballadors durant la seva existència va ser més moral que real ja que el nombre d’afiliats va ser reduït. El que és cert és que l’organització va intervenir en la mobilització obrera i en l’organització de vagues en molts punts del continent europeu. Però, sobretot, l’AIT va ser un focus de discussió i una tribuna d’idees oberta a tot el proletariat, que, per primer cop, va poder discutir les seves inquietuds i el seu programa i fer-los públics.
Ben aviat va quedar clar que l’AIT era lluny de composar un grup homogeni ideològicament. La crisi i divisió de l’internacionalisme ja va manifestar-se al Congrés de Basilea (1869) quan van produir-se enfrontaments entre les opinions marxistes i les anarquistes. Les delegacions dels països més industrialitzats, com Gran Bretanya o Alemanya, donaven suport a les idees del socialisme marxista, mentre que les delegacions dels països menys industrialitzats, com Itàlia o Espanya, van donar suport a les concepcions anarquistes proudhonianes i bakuninistes.
L’enfrontament entre Marx i Bakunin va ser el debat més fort que va donar-se en el si de l’AIT i el que més transcendència política que va tenir. Davant de les posicions marxistes, que havien orientat la política de la Internacional, Bakunin condemnava la participació dels partits obrers en les eleccions i la lluita política com a mitjà per aconseguir reformes socials. Bakunin propugnava l’abolició de l’Estat i no pas la seva conquesta, es mostrava hostil a qualsevol mena d’autoritat i combatia l’autoritat del Consell General de l’AIT, encapçalat per Marx, i l’acusava de dictatorial. Defensava el poder de les seccions nacionals i negava la necessitat d’un comitè permanent.
L’esclat, el 1870, de la guerra franco-prussiana va fer entrar en crisi la Internacional Obrera. En primer lloc, va fracassar la proposta internacionalista que propugnava que els obrers dels dos bàndols no havien de combatre entre ells, perquè era una guerra entre burgesos. Tanmateix, la majoria dels treballadors va alinear-se al costat dels seus governs. En segon lloc, el fracàs de l’aixecament obrer de la Comuna de París va ser un altre cop fort per a la Internacional. L’AIT, acusada pels governs liberals de ser la instigadora de la Comuna, va ser declarada fora de la llei a la majoria dels països europeus i els seus membres van ser durament perseguits.
Tot i això, va ser l’agreujament de les dissensions internes el que va donar el cop final a l’AIT. Al Congrés de l’Haia (1872) serien expulsats els bakuninistes de la majoria de les seccions (Bèlgica, Espanya, Suïssa o Itàlia) i aquests van formar la seva pròpia organització, l’anomenada Internacional Antiautoritària, de vida molt curta, ja que va celebrar el seu darrer congrés el 1881. Amb aquest trencament s’havia consolidat la primera gran escissió del moviment obrer entre anarquistes i socialistes. D’altra banda, Marx van convèncer-se que la futura organització del proletariat havia de fonamentar-se sobre la base de partits obrers nacionals. El trasllat del Consell General de l’AIT a Nova York va acabar per provocar l’extinció definitiva de l’organització.