De middenvelder droeg de aanvoerdersband terwijl Chelsea's ongeslagen thuisstart op zaterdag eindigde, met een eigen doelpunt van doelman Mike Penders en een late goal van Mathys Tel die de Londense derby besliste. Cole Palmer werd ook van het veld gestuurd na het ontvangen van twee gele kaarten.
Chelsea had kansen voor de pauze, met Cole Palmer, Jordan Henderson, Morgan Rogers en Pedro Neto die allemaal Tottenham-doelman Antonin Kinsky testten. Maar de thuisploeg kon die kansen niet omzetten in een doelpunt, en de wedstrijd bleef doelpuntloos totdat een hoekschop leidde tot Penders die de bal in zijn eigen net werkte in de 77e minuut.
Tel voltooide een counteraanval in de 87e minuut, nadat Palmer was weggestuurd, om de overwinning van Tottenham te voltooien.
Caicedo accepteerde dat Chelsea verantwoordelijkheid moest nemen voor de fout die de wedstrijd veranderde.
"We moeten gedurende de hele wedstrijd gefocust zijn, want als je één seconde afgeleid bent, word je bestraft.
"We moeten hiervan leren, want we moeten voorkomen dat dit gebeurt en we moeten de nul houden gedurende de hele wedstrijd.
"Het was een moeilijke wedstrijd, maar we moeten doorgaan omdat er meer wedstrijden voor ons liggen en we beter willen doen."
De Ecuadoriaanse international zei dat de selectie begreep dat verbeteringen nodig waren en bleef vertrouwen houden dat ze hun positie op de ranglijst konden herstellen.
"Iedereen weet wat we moeten verbeteren. We gaan over deze wedstrijd nadenken omdat we daarboven op de ranglijst moeten staan. We moeten hiervan leren en zeker weten dat we daarboven gaan staan [aan het einde van het seizoen]."
Zaterdag was Caicedo's derde opeenvolgende basisplaats nadat hij hersteld was van een blessure aan het begin van het seizoen. Chelsea's officiële wedstrijdverslag gaf hem vier intercepties, meer dan welke andere speler dan ook, en twee tackles terwijl hij probeerde het team weer controle te laten krijgen op het middenveld.
"Ik heb mijn best gedaan en het team geprobeerd te helpen en ik voel me zeker beter van wedstrijd tot wedstrijd," zei hij.
"Deze was een moeilijke wedstrijd, maar ik wil blijven presteren en verbeteren wat ik moet verbeteren omdat ik iemand wil zijn die het team in elk moment helpt."
Chelsea moet nu snel reageren, met een Carabao Cup ontmoeting met Liverpool gepland voor woensdag. Voor Caicedo was de boodschap na een schadelijke thuisnederlaag simpel: de concentratie mag niet dalen, zelfs niet kort.
De nederlaag beëindigde ook een reeks waarin Chelsea had vermeden thuis te verliezen, waardoor Caicedo's oproep voor voortdurende concentratie bijzonder scherp was.