Terwijl het debuut uit 2008 van Vampire Weekend nog moest uitkomen, had de indieband uit New York de eerste nummers voor opvolger Contra al af. Toch had het viertal nog twee jaar nodig om na te denken over de muzikale richting van die plaat. "Contra bevat meer verschillende tempo's en sferen", legt drummer Chris Tomson uit. "En onze zanger Ezra zoekt dit keer de grenzen van zijn stemgeluid op. De songs op de eerste plaat waren meer een herhaling van zetten en hetzelfde kan gezegd worden over het opnameproces. Het belangrijkste doel voor onszelf was dan ook om dit keer een gevarieerder geheel te presenteren."