En 1970, Ali renonce officiellement à son titre, permettant à Joe Frazier, nouvelle étoile montante de la catégorie, de réunifier le titre aux dépens de Jimmy Ellis. Il remporte son procès devant la Cour suprême des États-Unis, qui lui reconnaît le droit de refuser le service militaire. Il récupère alors sa licence de boxe et reprend sa carrière.
Après quelques exhibitions, Ali fait son retour contre le grand espoir blanc Jerry Quarry qu'il balaye en 3 rounds le 26 octobre à Atlanta.
Pour se préparer à combattre le champion Joe Frazier, Ali affronte Oscar Bonavena le 7 décembre à New York en 15 rounds au lieu des 12 habituels, il s'entraîne ainsi face à un bon encaisseur pour être capable de tenir sans faiblir contre Frazier dont le menton est l'un des meilleurs de la catégorie. Mais Ali; par ce combat, prenait le risque de se mesurer à un boxeur de très haut niveau après trois ans d'absence des rings.
Très attendu et médiatisé, ce combat sera surnommé un peu vite « le combat du siècle ». Premier championnat du monde entre deux champions invaincus et totalement opposés dans un style que chacun maîtrise à la perfection, il sera le premier de ces grands affrontements qui marqueront l'apogée de la boxe dans les années 1970.
Débutant le 8 mars 1971 dans le célèbre Madison Square Garden de New York, cet affrontement verra la première défaite d'Ali, sûr de son bon droit, et qui pensait sa reconquête du titre légitime comme il l'écrira plus tard dans son autobiographie L'Âme du papillon en ajoutant qu'il avait sous-estimé Joe Frazier, pensant que le boxeur de Philadelphie serait bien moins motivé que lui. Ali remporta les premiers rounds mais se retrouva désemparé et sans solution face à Frazier, un spécialiste du corps à corps qui lui imposait son style avec ses lourds crochets. Ali mettra un genou à terre au 11e round et au 15e et dernier round, alors que personne ne s'y attendait, Frazier lui décochera son coup préféré, le crochet gauche. Touché au visage, Ali tombera à terre et se relèvera à 4 pour perdre aux points. Sa première et sa plus grande défaite gâcheront son souhait de finir invaincu comme Marciano et Ali en voudra toujours à Frazier.
Seule consolation, la cour suprême l'innocentera définitivement le 28 juin 1971. Celle-ci l'acquitte à l'unanimité (8 juges).