Gampong Ateuk Jawo yang terletak di paling ujung selatan Kecamatan Baiturrahman Kemukiman Baiturrahman terdiri dari sepuluh Gampong yaitu Ateuk Jawo, Ateuk Munjeng, Ateuk Deah Tanoh, Ateuk Pahlawan, Peuniti ( Mukim Baiturrahman ), Sukaramai, Kampung Baru, Neusu Aceh dan Neusu Jaya ( Mukim Putroe Phang ). Dari cerita historis tokoh-tokoh tuan asal usul terbentuknya Gampong Ateuk Jawo ialah karena pada masa penjajahan dijadikan sebagai lalu lintas para pejuang dan penjajah, jadi pada saat itu di namakan Ateung jak wo yang berarti kata Ateung berarti Jalan Jak berti Pergi wo Berarti Pulang Ateung jak wo Berarti Jalan untuk pergi pulang dan pada saat iti gampong Ateuk Jawo terbagi dua wilayah yaitu Wilayah Ujung Kampung Jawo dan Ujung Gampong Tayeun.

Dimana pada masa itu Gampong Ateuk Jawo berupa lahan kosong, semak belukar. Pada masa tahun 1901 pemerintahan masih dinamakan Gampong Ateuk Kecamatan Mesjid Raya Kabupaten Aceh Besar yang dipimpin oleh seorang Keuchik yang bernama Daud dengan datangnya perantau dari daerah-daerah lain yang hanya ada beberapa orang mereka menggarap lahan kosong tersebut menjadi lahan pertanian, lahan peternakan serta pemukiman. Sekitar tahun 1980an gampong Ateuk Jawo menjadi atau masuk dalam wilayah Kodya Banda Aceh yang masuk dalam Kecamatan Baiturrahman.