Juan de Ayolas était né à Briviesca, Province de Burgos, en Castille et León. Il avait fait partie, comme Majordome, de l'expédition partie d'Espagne en 1535, sous le commandement de Pedro de Mendoza, pour coloniser la région du Rio de la Plata. Il assista à la fondation de Buenos Aires (Nuestra Señora de Buen Ayre) en 1536.
Il fut envoyé par Pedro de Mendoza explorer le rio Paraná. Après avoir fondé le fort de Corpus Christi en juin 1536 ; il poursuivit son exploration en remontant le cours du rio Paraguay. Il combattit les tribus Guarani dont il obtint la capitulation le 15 août 1536.
Le 2 février 1537, il fonda le fort de la Candeleria, sur l'emplacement actuel de la ville de Corumbá, où il laissa comme lieutenant Domingo Martínez de Irala. Il continua son exploration vers le nord ouest, cherchant une communication avec le Pérou. Il parvint en Bolivie, dans la région du Chaco.
Il revint ensuite vers le fort de la Candelaria, qu'il trouva abandonné. Il y fut tué lors d'une attaque des indigènes. Pedro de Mendoza, malade, l'avait désigné comme son successeur, gouverneur du Rio de la Plata, et en son absence, avait confié l'interim à Francisco Ruyz Galán.