Selon le témoignage d'un contemporain, il fut un très grand chanteur.A partir de 1500, il se fixa à Bruxelles comme successeur d'Antoine Busnois, puis suivit la chapelle bourguignonne de Philippe Le Bel en Castille. C'est là qu'il mourut de la peste.

Certaines oeuvres d'Alexander Agricola furent transcrites pour le luth par l'Allemand Hans Neusidler. Quelques années après sa mort, Eloy d'Amerval le cite dans son Livre de la deablerie (1508).

Contemporain de Josquin et d'Heinrich Isaac, il fut aussi estimé que ces deux grands musiciens : son nom apparaît quelquefois accompagné d'un qualificatif flatteur : "magnificus" dans le Mater floreat de Pierre Moulu (déb. XVIè s.), "divin" pour le théoricien Pietro Aaron (troisième des Libri tres de institutione harmonica, 1516). Sa renommée paraît encore bien établie au milieu du XVIè s., puisqu'il est nommé dans le noël de Mitou (vers 1530) et le Nouveau Prologue du Quart livre de François Rabelais.