Si on veux détailler :
Tu arrives pour te connecter. Sans le savoir, le forum t'a envoyer une clé c'est à dire une suite de caractères qui permettront à ton navigateur internet de crypter ton mot de passe.
Tu valide ton formulaire, ton navigateur crypte le mot de passe et l'envoi.
A ce moment là, si jamais quelqu'un capture ce que tu as envoyer, il ne pourra rien en faire car il lui faudrait l'autre clef (qui est privée et conservée par le forum) pour pouvoir décrypter le mot de passe que tu as envoyer.
La clef publique et la clef privée du RSA sont les 2 maillons d'une même chaine.
Si on avait hashé en MD5 lorsque tu envoi ton mot de passe en supposant que tu ai le même mot de passe partout, quelque soit le forum, tu aurais envoyer la même chose.
Ici, une personne qui écoute ce que tu envoi ne pourra jamais se douter que tu as le meme mot de passe
Sécurité augmentée.
Une autre solution aurait été de définir 2 clé pour chaque forum. 1 privée et 1 publique. Tu aurais hashé en md5 avec la clé publique et le forum l'aurait re-hashé avec sa propre clé privée.