Né en 1851 à La Porcherie en Haute-Vienne, Arsène d'Arsonval est issu d'une famille de médecins. D'abord lycéen à Limoges puis au Collège Sainte-Barbe, c'est en tant qu'étudiant en médecine qu'il assiste au cours de Claude Bernard, par lequel il se fait remarquer en réparant durant un cours un galvanomètre défectueux. Il devient son préparateur au Collège de France au début des années 1870, et ce jusqu'à la mort du professeur. Durant cette période, il va s'orienter progressivement vers la physique biologique. Il n’exercera jamais en cabinet pas plus qu’en milieu hospitalier, se consacrant à la recherche et développant en parallèle une activité d’ingénieur.
Avec l'aide de Paul Bert, il installe, à partir de 1881, son laboratoire de physique biologique à l'École pratique des hautes études (EPHE), rue Claude-Bernard, où il a la charge de la chaire éponyme. Ce laboratoire est par la suite transféré à Nogent-sur-Marne, l'endroit étant plus adapté pour la réception des machines volumineuses dont se sert d'Arsonval.
Il assiste le Pr Charles-Édouard Brown-Séquard, successeur de Claude Bernard au Collège de France, de 1878 à 1887, puis est officiellement nommé professeur suppléant. En 1894, suite au décès de Brown-Séquard, il est élu à la chaire de médecine qu’il occupera jusqu'à sa retraite, en 1930. Ses cours portent principalement sur les applications de l’électricité à la médecine.
Concomitamment à son poste au Collège de France, il devient membre de l'Académie de médecine en 1888 et de l'Académie des sciences en 1894, à la place laissée vacante par M. Brown-Séquard.
