Carrel was de oudste zoon van drie kinderen in een rooms-katholiek gezin. Zijn vader, Alexis Carrel-Billiard, was een textielfabrikant en zijn moeder, Anne-Marie Ricard, de dochter van een linnenhandelaar. Als kind bezocht hij de St. Joseph jezuïetschool in Lyon. Aansluitend studeerde hij aan de Universiteit van Lyon, waar hij naast academische kennis ook de nodige praktijkervaring opdeed door te werken in lokale ziekenhuizen. Hij diende een jaar als legerarts bij de Alpine Chasseurs, de Franse bergtroepen.
Hij studeerde onder anatoom Leo Testut en als assistent in Testuts laboratorium liet hij een groot talent zien voor ontleding en chirurgie. In 1900 verkreeg hij zijn doctorstitel, maar bleef als assistent verbonden aan de Universiteit van Lyon in de hoop voor een meer vaste positie.
Carrel was sinds 1903, en met name van 1937-1944, een overtuigd katholieke geloofsverdediger. Carrel had in 1903 te Lourdes tweemaal medisch onverklaarbare genezingen van patiënten meegemaakt, van wie één patiënte in doodsgevaar door voortgeschreden tuberculose verkeerde.
Vanwege de gebeurtenis in Lourdes kon Carrel geen ziekenhuisaanstelling meer krijgen. Hij verliet in 1904 Frankrijk en ging naar het Franssprekende deel van Canada, naar Montreal. Echter kort naar zijn aankomst accepteerde hij een docentschap fysiologie aan het Hull-laboratorium van de Universiteit van Chicago. Hier zette hij zijn onderzoek voort naar vaatchirurgie en orgaantransplantatie. Twee jaar later kreeg hij de kans om in een gerenommeerd laboratorium te werken. Het recent opgerichte Rockefeller Institut for Medical Research in New York bood hem een positie aan, die hij accepteerde. De rest van carrière bleef Carrel verbonden aan dit instituut, waar hij zijn vaatchirurgie verfijnde en hij de eerste experimenten uitvoerde met bloedtransfusie en orgaantransplantatie.
Tijdens de Eerste Wereldoorlog heeft Carrel als chirurg aan het front in Frankrijk gewerkt. In 1939 keerde hij naar Frankrijk terug, en werd door de Franse regering in Vichy in 1940 belast met een speciale taak: de gezondheidszorg tijdens de militaire bezetting en in de vrije zone.