Berdirinya Fakultas Ilmu Komputer didahului dengan Program Diploma Komputer (PDK) Unsri baru berdiri pertengahan tahun 2003, tepatnya tanggal 5 September 2003 dan merupakan program pendidikan bidang ICT yang pertama di Universitas Sriwijaya, sehingga melalui perencanaan strategis yang disusun secara matang dan komprehensif diharapkan dalam lima tahun ke depan dapat terwujud sebuah sistem pendidikan PDK yang handal dan mampu mengantisipasi perubahan di masa mendatang. Keinginan untuk mendirikan program pendidikan di bidang teknologi informasi dan komunikasi di Universitas Sriwijaya telah ada sejak tahun 1985, dimana pada saat itu Unsri telah mulai menyelenggarakan program pendidikan dan pelatihan profesional bidang komputer di Pusat Komputer Universitas Sriwijaya. Penyiapan SDM untuk tenaga dosen mulai dilakukan dengan mengirimkan beberapa dosen untuk mengikuti pendidikan S2 di bidang teknologi informasi dan komunikasi baik di dalam maupun di luar negeri.

Melalui penyiapan dosen berpendidikan S2 yang saat itu telah berjumlah 8 orang dan fasilitas teknologi informasi dan komunikasi di Unsri yang mulai memadai setelah Puskom Unsri menerima 2 (dua) kali hibah bersaing dari Departemen Pendidikan Nasional yakni Due-Like tahun 1999 s.d. 2003 dan TPSDP tahun 2003 s.d. 2007, keinginan tersebut mulai mengkristal. Rektor Unsri Prof. Dr. Zainal Ridho Djafar, Pembantu Rektor I, Prof. Dr. Mustafa Abdullah, Kepala Pusbandik Dr. Rujito Agus Suwignyo dan Kepala Puskom, Drs. Saparudin, M.T. pada bulan Juli tahun 2002 mulai membicarakan secara intensif rencana pembukaan Program Diploma Komputer Unsri.

Pada bulan Oktober 2002, dibentuklah panitia persiapan pembukaan Program Diploma Komputer, dan ditunjuk sebagai ketua pada waktu itu adalah Dr. Zulkardi, M.Ikom., sekretaris Ir. Bambang Tutuko, M.T. dan anggota, Dr. Rujito Agus Suwignyo dan Drs. Saparudin, M.T. Kemudian pada bulan Maret 2003, panitia pembukaan Program Diploma Komputer mengalami revisi kepengurusan, karena Dr. Zulkardi, M.Ikom mendapat penugasan oleh Pemerintah Provinsi Sumatera Selatan sebagai Kepala Kantor Informasi dan Komunikasi Sumsel. Akhirnya sebagai ketua panitia ditunjuk Drs. Saparudin, M.T. dan ditunjuk beberapa anggota baru yakni Erwin, M.Si., Syamsuryadi, M.Kom dan Ir. Iwan Pahendra, M.T.

Dengan Rahmat Allah Yang Maha Kuasa dan dukungan yang kuat dari Rektor Unsri, rekomendasi Gubernur, Bupati dan Walikota seluruh Provinsi Sumatera Selatan serta komitmen dan kerja keras panitia, sehingga Pembukaan Program Diploma Komputer Unsri dapat terwujud pada bulan Agustus 2003. Departemen Pendidikan Nasional melalui Direktorat Jenderal Pendidikan Tinggi (Dirjen Dikti) menerbitkan surat izin pembukaan 3 (tiga) program studi, yakni Manajemen Informatika D-III, Teknik Komputer D-III dan Komputerisasi Akuntansi D-III. Kebutuhan akan tenaga akademik dan profesional di bidang teknologi informasi dan komunikasi sebagai pengelola informasi di pemerintahan, industri dan perusahaan baik negeri maupun swasta di Sumsel, menuntut Unsri sebagai institusi pendidikan tinggi untuk menyelenggarakan pendidikan sarjana (S1) di bidang teknologi informasi dan komunikasi. Sehingga di bawah koordinasi Rektor Unsri, Prof. Zainal Ridho Djafar dan Tim Pendirian Program Ilmu Komputer Unsri yang diketuai oleh Drs. Saparudin, M.T. mulai menyusun naskah studi kelayakan pendirian Program Ilmu Komputer Unsri. Usaha ini pun telah membuahkan hasil sebagai awal dari suatu perjuangan meniti perjalanan panjang pendidikan teknologi informasi dan komunikasi di Universitas Sriwijaya. Program Studi Teknik Informasi jenjang S1 dan Program Studi Sistem Komputer jenjang S1 mendapat persetujuan Dirjen Dikti pada bulan Juni 2005.

Program Ilmu Komputer (PIK) dan Program Diploma Komputer (PDK) Universitas Sriwijaya mulai menyelenggarakan kegiatan akademik dan menata manajemen dan organisasi. Perjalanan 2 (dua) tahun penyelenggaraan kedua lembaga tersebut secara swadana dan swakelola telah mengantarkan pembukaan Fakultas Ilmu Komputer Unsri. Setelah mempelajari naskah akademik yang terdiri dari evaluasi diri dan proposal PIK dan PDK Unsri, Dirjen Dikti pada tanggal 22 Februari 2006 menerbitkan surat izin pembukaan Fakultas Ilmu Komputer Unsri dengan sistem pengelolaan fakultas secara swadana dan swakelola.