Alfian lahir di Binjai, Sumatera Utara, 27 April 1943, dari pasangan Siti Chodijah Nasution dan Zaenal Abidin Harahap. #Alfian mulai menunjukkan bakat nyanyi pada usia 20 tahun. Ia sering mencontoh gaya Elvis Presley, Cliff Richard, dan Pat Bone, yang digandrungi anak-anak muda pada 1960-an.

Pada usia 20-an tahun Alfian sudah menulis lagu seperti 'Terkenang Ibu', 'Relakan', 'Di Mana Kasih'. Bermodalkan kemampuan olah vokal dan menulis lagu, pada 1964 Alfian merantau ke Jakarta. Lalu merekam suara emasnya di PT Remaco, perusahaan rekaman [label] terkenal masa itu.
Debut perdananya dengan album 'Senja di Kaimana' [ciptaan Surni Warkiman] sangat sukses. Lagu lain 'Sebiduk di Sungai Musi', 'Senja di Pantai Sanur'. Setahun kemudian, 1965, Alfian meraih beberapa penghargaan, termasuk Pihak Remaco yang bersemangat merekam suara Alfian.

Masuk lagi di studio rekaman, Alfian secara spontan menulis lagu Semalam di Cianjur. Dia tulis apa adanya di studio. Eh, justru lagu inilah yang mengangkat namanya di Indonesia serta negara-negara tetangga. Pihak Singapura, Philips, menawari Alfian bikin album bareng Tety Kadi.
Pada awal 1970-an musik pop Indonesia dikuasai grup-grup band baru macam Koes Bersaudara [Koes Plus], Panbers, D'Lloyd... yang menawarkan warna baru. Maka, penyanyi-penyanyi solo, termasuk Alfian, meredup.
Alfian memilih lengser dari studio rekaman dan dunia nyanyi dan bekerja di PT Bonded Warehouse Indonesia di kawasan Tanjungpriok, Jakarta.
Alfian meninggal pada 11 Januari 1992 karena penyakit jantung dan diabetes.