Berdirinya PT. Bank Pembangunan Daerah Aceh yang sebelum menjadi Perseroan Terbatas merupakan prakarsa dari Dewan Pemerintah Daerah Peralihan Provinsi Atjeh (sekarang disebut Pemerintah Provinsi Aceh). Setelah mendapat persetujuan Dewan Perwakilan Rakyat Daerah peralihan.
Provinsi Aceh di Kutaraja (sekarang Banda Aceh) dengan Surat Keputusan Nomor 7/DPRD/5 tanggal 7 September 1957, beberapa orang mewakili Pemerintah Daerah menghadap Mula Pangihutan Tamboenan, wakil Notaris di Kutaraja, untuk mendirikan suatu Bank dalam bentuk Perseroan Terbatas yang bernama “PT Bank Kesejahteraan Atjeh, NV” dengan modal dasar ditetapkan Rp25.000.000.
Setelah beberapa kali perubahan Akte, pada tanggal 2 Februari 1960 diperoleh izin dari Menteri Keuangan dengan Surat Keputusan No. 12096/BUM/II dan Pengesahan Bentuk Hukum dari Menteri Kehakiman dengan Surat Keputusan No. J.A.5/22/9 tanggal 18 Maret 1960. Pada saat itu PT Bank Kesejahteraan Aceh NV dipimpin oleh Teuku Djafar sebagai Direktur dan Komisaris terdiri atas Teuku Soelaiman Polem, Abdullah Bin Mohammad Hoesin, dan Moehammad Sanusi.
Dengan ditetapkannya Undang-undang No. 13 Tahun 1962 tentang Ketentuan-ketentuan Pokok Bank Pembangunan Daerah, semua Bank milik Pemerintah Daerah yang sudah berdiri sebelumnya, harus menyesuaikan diri dengan Undang-undang tersebut. Untuk memenuhi ketentuan ini maka pada tahun 1963 Pemerintah Daerah Provinsi Daerah Istimewa Aceh membuat Peraturan Daerah No. 12 Tahun 1963 sebagai landasan hukum berdirinya Bank Pembangunan Daerah Istimewa Aceh. Dalam Perda tersebut ditegaskan bahwa maksud pendirian Bank Pembangunan Daerah Istimewa Aceh adalah untuk menyediakan pembiayaan bagi pelaksanaan usaha-usaha pembangunan daerah dalam rangka pembangunan nasional semesta berencana.
Sepuluh tahun kemudian, atau tepatnya pada tanggal 7 April 1973, Gubernur Kepala Daerah Istimewa Aceh mengeluarkan Surat Keputusan No. 54/1973 tentang Penetapan Pelaksanaan Pengalihan PT Bank Kesejahteraan Aceh, NV menjadi Bank Pembangunan Daerah Istimewa Aceh. Peralihan status, baik bentuk hukum, hak dan kewajiban dan lainnya secara resmi terlaksana pada tanggal 6 Agustus 1973, yang dianggap sebagai hari lahirnya Bank Pembangunan Daerah Istimewa Aceh.
Untuk memberikan ruang gerak yang lebih luas kepada Bank Pembangunan Daerah Istimewa Aceh, Pemerintah Daerah telah beberapa kali mengadakan perubahan Peraturan Daerah (Perda), yaitu mulai Perda No.10 tahun 1974, Perda No. 6 tahun 1978, Perda No. 5 tahun 1982, Perda No. 8 tahun 1988, Perda No. 3 tahun 1993 dan terakhir Peraturan Daerah Provinsi Daerah Istimewa Aceh Nomor : 2 Tahun 1999 tanggal 2 Maret 1999 tentang Perubahan Bentuk Badan Hukum Bank Pembangunan Daerah Istimewa Aceh menjadi PT Bank Pembangunan Daerah Istimewa Aceh, yang telah disahkan oleh Menteri Dalam Negeri dengan Keputusan Menteri Dalam Negeri Nomor : 584.21.343 tanggal 31 Desember 1999.
Perubahan bentuk badan hukum dari Perusahaan Daerah menjadi Perseroan Terbatas dilatarbelakangi keikutsertaan Bank Pembangunan Daerah Istimewa Aceh dalam program rekapitalisasi, berupa peningkatan permodalan bank yang ditetapkan melalui Keputusan Bersama Menteri Keuangan Republik Indonesia dan Gubernur Bank Indonesia Nomor 53/KMK.017/1999 dan Nomor 31/12/ KEP/GBI tanggal 8 Februari 1999 tentang Pelaksanaan Program Rekapitalisasi Bank Umum, yang ditindaklanjuti dengan penandatanganan Perjanjian Rekapitalisasi antara Pemerintah Republik Indonesia, Bank Indonesia, dan PT. Bank BPD Aceh di Jakarta pada tanggal 7 Mei 1999.
Perubahan bentuk badan hukum menjadi Perseroan Terbatas ditetapkan dengan Akte Notaris Husni Usman, SH No. 55 tanggal 21 April 1999, bernama PT Bank Pembangunan Daerah Istimewa Aceh disingkat PT Bank BPD Aceh. Perubahan tersebut telah disahkan oleh Menteri Kehakiman RI dengan Surat Keputusan Nomor C-8260 HT.01.01.TH.99 tanggal 6 Mei 1999. Dalam Akte Pendirian Perseroan ditetapkan modal dasar PT Bank BPD Aceh sebesar Rp150 miliar.
Sesuai dengan Akte Notaris Husni Usman, SH No.42 tanggal 30 Agustus 2003, modal dasar ditempatkan PT Bank BPD Aceh ditambah menjadi Rp500 miliar.
Bank juga memulai aktivitas perbankan syariah dengan diterimanya surat Bank Indonesia No. 6/4/Dpb/BNA tanggal 19 Oktober 2004 mengenai Izin Pembukaan Kantor Cabang Syariah Bank dalam aktivitas komersial Bank. Bank mulai melakukan kegiatan operasional berdasarkan prinsip syariah tersebut pada 5 November 2004.
Berdasarkan Akta Notaris Husni Usman tentang Pernyataan Keputusan Rapat No. 10 Tanggal 15 Desember 2008, notaris di Medan tentang peningkatan modal dasar Perseroan, modal dasar kembali ditingkatkan menjadi Rp1.500.000.000.000 dan perubahan nama Perseroan menjadi PT. Bank Aceh. Perubahan tersebut telah disahkan oleh Menteri Hukum dan Hak Asasi Manusia Republik Indonesia No. AHU-44411. AH.01.02 Tahun 2009 pada tanggal 9 September 2009. Perubahan nama menjadi PT. Bank Aceh telah disahkan oleh Keputusan Gubernur Bank Indonesia No. 12/61/KEP.GBI/2010 tanggal 29 September 2010.
Sejarah baru mulai diukir oleh Bank Aceh melalui hasil rapat RUPSLB (Rapat Umum Pemegang Saham Luar Biasa) tanggal 25 Mei 2015 tahun lalu bahwa Bank Aceh melakukan perubahan kegiatan usaha dari sistem konvensional menjadi sistem syariah seluruhnya. Maka dimulai setelah tanggal keputusan tersebut proses konversi dimulai dengan tim konversi Bank Aceh dengan diawasi oleh Otoritas Jasa Keuangan. Setelah melalui berbagai tahapan dan proses perizinan yang disyaratkan oleh OJK akhirnya Bank Aceh mendapatkan izin operasional konversi dari Dewan Komisioner OJK Pusat untuk perubahan kegiatan usaha dari sistem konvensional ke sistem syariah secara menyeluruh.
Izin operasional konversi tersebut ditetapkan berdasarkan Keputusan Dewan Komisioner OJK Nomor. KEP- 44/D.03/2016 tanggal 1 September 2016 Perihal Pemberian Izin Perubahan Kegiatan Usaha Bank Umum Konvensional Menjadi Bank Umum Syariah PT. Bank Aceh Syariah yang diserahkan langsung oleh Dewan Komisioner OJK kepada Gubernur Aceh Zaini Abdullah melalui Kepala OJK Provinsi Aceh Ahmad Wijaya Putra di Banda Aceh.
Perubahan sistem operasional dilaksanakan pada tanggal 19 September 2016 secara serentak pada seluruh jaringan kantor Bank Aceh. Dan sejak tanggal tersebut Bank Aceh telah dapat melayani seluruh nasabah dan masyarakat dengan sistem syariah murni mengutip Ketentuan PBI Nomor 11/15/PBI/2009.
Proses konversi Bank Aceh menjadi Bank Syariah diharapkan dapat membawa dampak positif pada seluruh aspek kehidupan ekonomi dan sosial masyarakat. Dengan menjadi Bank Syariah, Bank Aceh bisa menjadi salah satu titik episentrum pertumbuhan ekonomi dan pembangunan daerah yang lebih optimal.
Pada akhir 2021, Bank Aceh resmi membuka perwakilan kantor cabangnya di jakarta tepatnya pada tanggal 20 Desember 2021, yang berlokasi di Jalan HOS Cokroaminoto, Menteng, Jakarta Pusat. dibukanya Kantor Cabang Bank Aceh di Jakarta merupakan representasi dukungan Pemerintah Aceh terhadap aktivitas layanan transaksi perbankan di tengah persaingan sektor perbankan. kehadiran di Jakarta diharapkan mampu memberikan dukungan bagi akselerasi pengelolaan keuangan, baik kepada sektor privat, swasta, maupun pemerintah daerah.
Kantor Pusat Bank Aceh berlokasi di Jalan Mr. Mohd. Hasan No 89 Batoh Banda Aceh. Sampai dengan akhir 2021 Bank Aceh telah memilik 515 jaringan Kantor terdiri dari 1 Kantor Pusat, 1 Kantor Pusat Operasional, 27 Kantor Cabang, 95 Kantor Cabang Pembantu, 27 Kantor Kas, 25 Payment Point, 12 Mobil Kas dan 316 unit ATM dan 12 Unit CRM tersebar dalam wilayah Provinsi Aceh termasuk di Kota Medan. Bank juga melakukan penataan kembali lokasi kantor sesuai dengan kebutuhan.