Lionel Messi rompió el empate en el minuto 29, dando a los campeones defensores la ventaja que habían amenazado desde los primeros intercambios.
Cabo Verde, apareciendo en su primera Copa del Mundo, se negó a sentirse abrumado por la ocasión.
Deroy Duarte empató para los desvalidos en la segunda mitad, llevando el partido a tiempo extra y preparando un final emocionante.
Argentina parecía haber recuperado la delantera nuevamente cuando Lisandro Martínez disparó un tiro que pasó por encima del portero de Cabo Verde, Vozinha, en tiempo extra.
Pero Cabo Verde respondió una vez más, con Sidny Lopes Cabral restaurando la paridad en el minuto 103.
El momento decisivo llegó tarde, cuando el balón terminó en la red tras una jugada que inicialmente se acreditó a Cristian Romero.
Ese gol fue posteriormente reclasificado como un autogol de Cabo Verde, enviando a Argentina a la ronda de 16.
El entrenador de Argentina, Lionel Scaloni, dio su reacción a la dramática victoria después.
"Fue un partido realmente duro. Siempre tienes que enfocarte en lo positivo. Este equipo nunca se rinde. Y tengo que dar crédito a nuestros oponentes. Hoy Cabo Verde demostró que son un gran equipo. La verdad es que todos terminaron realmente cansados, porque lo dieron todo.
"Esto es Argentina... Si no entiendes eso, es difícil. Nosotros, los argentinos, lo entenderemos, porque nada viene fácil."
La trayectoria de Cabo Verde en América del Norte termina en la etapa de la Ronda de 32, pero su actuación contra los campeones del mundo actuales poco disminuirá el logro de alcanzar las rondas eliminatorias en su torneo debut.
Argentina, por el contrario, avanza con preguntas aún por responder.
El equipo de Scaloni luchó para deshacerse de un equipo clasificado muy por debajo de ellos en el ranking mundial, necesitando dos momentos de fortuna en tiempo extra para evitar una tanda de penaltis o la eliminación.
La manera del gol de la victoria, inicialmente otorgado a Romero antes de ser modificado a un autogol, poco ayudará a calmar los nervios en el campamento argentino antes de la oposición más dura que se avecina.
Los jugadores y el personal de Cabo Verde recibieron cálidos aplausos de los aficionados neutrales dentro del estadio al abandonar el campo, su torneo terminó con la cabeza en alto.
Para Argentina, el enfoque ahora se centra en prepararse para su próxima tarea mientras continúan la defensa de su título mundial.
El mensaje de Scaloni a sus jugadores y seguidores fue claro: nada en una camiseta de Argentina viene sin luchar.