Destylarnia Caol Ila została wybudowana przez Hektora Hendersona w 1846 roku. Na lokalizację zakładu Henderson wybrał kotlinę nad cieśniną Sound of Islay (dzielącą wyspy Islay i Jura), w pobliżu Port Askaig, co zapewniało łatwy dostęp do wody z pobliskiego, oddalonego o niecałe dwa kilometry, jeziora Loch Nam Bam. Początkowo wodę z tego źródła używano w destylarni nie tylko do produkcji whisky, ale także do wytwarzania energii i chłodzenia.
Pomimo tego, że Henderson był doświadczonym gorzelnikiem (wcześniej jako współwłaściciel pracował w zakładzie Littlemill znajdującym się w regionie Lowland) nie odniósł sukcesu rynkowego z Caol Ila. Po kilku latach działalności popadł w problemy finansowane, przez co został zmuszony do sprzedania zakładu. Kupującym był Norman Buchanan, właściciel Isle of Jura Distillery działającej na pobliskiej wyspie Jura.
W 1863 roku Buchamn ogłosił upadłość, a gorzelnia została przejęta przez spółkę Bulloch Lade & Co. z Glasgow. Ta sama firma była wówczas właścicielem nieistniejącej już destylarni Loch Catrine w Glasgow. To właśnie w czasach Bulloch Lade wybudowano nabrzeże portowe, które przez pewien czas służyło destylarni. Dzięki nabrzeżu parowce, które pieszczotliwie nazywano „puffers”, mogły bez przeszkód i regularnie (dwa razy w tygodniu) przy nim cumować niezależnie od przypływu i odpływu morza. Również w tym czasie destylarnia przeszła pierwszą modernizację w swojej historii, w wyniku której w roku 1879 wydajność produkcyjna destylarni wzrosła do 147 tys. galonów (prawie 700 tys. litrów) rocznie.
W owych czasach obok gorzelni powstała także niewielka kapliczka (właściciele firmy Bulloch Lade & Co byli ludźmi głęboko religijnymi), do której w każdą niedzielą przybywał kleryk z Glasgow, który głosił ewangelię pracownikom gorzelni i ich rodzinom. Uczestnictwo w nabożeństwie było obowiązkowe.
W 1920 roku Caol Ila została sprzedana konsorcjum, które utworzyło firmę Caol Ila Distillery Co. i przyczyniło się walnie do kolejnych udoskonaleń w procesie produkcji i zwiększenia wydajności.
W 1927 roku kontrolny pakiet akcji przedsiębiorstwa przejęty został przez firmę Distillers Co. Ltd., a trzy lata później jej filia, Scottish Malt Distillers Ltd. przejęła całość akcji Caol Ila. W owym czasie whisky transportowano stamtąd m.in. za pomocą własnych parowców Pibroch I oraz Pilbroch II (obsługującego także destylarnię Lagavulin, należącą podówczas również do Scottish Malt Distillers Ltd.). Z biegiem lat, coraz częściej korzystano jednak z profesjonalnych usług pobliskiego i dynamicznie rozwijającego się portu w Port Askaig, co gwarantowało lepszą jakość i niższe koszty.
Wspomniany wyżej parowiec Pibroch II cumował przy molo w Caol Ila po raz ostatni w 1972 roku, kiedy to w kwietniu tego roku w Caol Ila Distillery wstrzymano produkcję. Wówczas to firma DCL (która później przekształciła się w United Distillers), kosztem ponad miliona funtów, rozpoczęła gruntowną modernizację zakładu, która spowodował jego zamknięcie na dwa lata. W jej trakcie dotychczasowe dwa alembiki zastąpione zostały sześcioma nowymi, odnowiono magazyny celne, w których przechowywany jest destylat (jest to jedyny zachowany do dziś oryginalny fragment architektury Caol Ila), wybudowano nowe molo oraz rozebrano stare budynki, zamiast których postawiono zabudowania zachowujące co prawda dawny, oryginalny styl, ale bardziej funkcjonalne i większe.
W latach 1988 – 1989 w sprzedaży pojawiła się oficjalna 12-letnia wersja Caol Ila. Mimo to do chwili obecnej większość produkcji wykorzystywana jest do zestawienia kilku blended whisky należących do koncernu Diageo, do których zaliczyć można m. in. Black & White, Bell’s 8 years old i Johnnie Walker Red Label.
W 2011 roku przeprowadzono kolejną modernizację zakładu zwiększającą moce produkcyjne do 6,5 miliona litrów rocznie.
Caol Ila to whisky o typowym dla Islay, morskim i torfowym smaku o niezwykle bogatym aromacie i rozbudowanych akcentach smakowych. Jest gdzieś pomiędzy agresywnymi i ostrymi maltami z Islay, takimi jak Lagavulin czy Laphroaig, jednak zdecydowanie „ostrzejsza” niż Bruichladdich czy Bunnahabhain.
Wyrażenie „caol ila” (wymowa „kal – ila”) po gaelicku oznacza „cieśnina Islay”.