在玉门市昌马乡水峡村西面紧靠村庄的地方，坐落着一座南北走向的约50米的山崖，山体南北长约500米。昌马石窟，就坐落在这高高的山壁的最中央，离地面约25米。从石窟向南到昌马乡政府约5公里，从石窟向北到玉门镇及312国道约70公里。一般认为，敦煌石窟包括敦煌莫高窟、安西榆林窟和玉门昌马石窟。所以说，昌马石窟是敦煌石窟的重要组成部分，是莫高窟和榆林窟的姊妹窟。昌马石窟开凿于五代宋初，后历元明又有续凿和修复。原有石窟共计24座，分为上窖石窟和下窖石窟，分布在昌马乡水峡村的上窖山和下窖山一带。1932年12月25日8时45分，昌马盆地发生了一起震级为7.7级的强烈地震，震中在昌马盆地朱家戈壁一带，造成昌马盆地死亡270人、伤300多人、死伤牲畜100多头、约87%的民房倒塌的巨大损失。就在这次大地震中，昌马上窖石窟的12座洞窟全部被震塌，石窟中的壁画、彩塑等各种文物被全部损毁。昌马下窟石窟的大多数洞窟也被这次大地震损毁，只有4座洞窟幸存，这就是我们今天看到的昌马石窟的4座洞窟。
2019年10月7日，昌马石窟入选第八批全国重点文物保护单位名单。