Memasuki jenjang pendidikan selanjutnya, Mahfud masuk ke Sekolah Pendidikan Agama (PGA).
Mahfud diproyeksikan agar menjadi ustaz atau kiai sehingga dimasukkan ke sekolah kejuruan itu di tingkat pertamanya.
Di PGA ini ada cerita lucu yang akhirnya mengubah nama Mohammad Mahfud menjadi Mohammad Mahfud MD.
Pada kelas I PGA, ada lebih dari satu murid yang bernama Mohammad Mahfud.
Untuk membedakan, wali kelas pun meminta agar di belakang nama Mahfud diberi abjad berbeda seperti Mahfud A atau Mahfud B.
Mahfud yang kini cawapres itu dulu sempat bernama Mahfud B.
Namun sepekan kemudian, wali kelas berubah pikiran.
Kini Mahfud diminta menambahkan nama ayah di belakangnya.
Jadilah Ketua Mahkamah Konstitusi (MK) periode 2008-2013 itu bernama Mahfud Mahmodin.
Sedangkan Mahfud yang satunya lagi menjadi Mahfud Musyaffa.
Karena nama Mohammad Mahfud Mahmodin kurang enak didengar, agar sedikit lebih keren, Mahmodin disingkat menjadi MD, sehingga menjadi Moh. Mahfud MD.
Saat lulus dari PGA pada 1974, pihak sekolah lupa jika MD itu hanya dibuat untuk membedakan nama Mahfud di kelas.
Alhasil, pada ijazah sekolah tersebut, nama MD tidak terlepas.
Dari PGA, Mahfud masuk Pendidikan Hakim Islam Negeri pada jenjang menengah atas.
Setelah tamat, Mahfud kuliah di Fakultas Hukum Universitas Islam Indonesia (UII) dan merangkap di Fakultas Sastra dan Budaya Universitas Gajah Mada (UGM) jurusan Sastra Arab.