Asal usul peribahasa ini tidak diketahui secara pasti, namun peribahasa ini telah digunakan dalam berbagai bentuk sepanjang sejarah. Salah satu referensi paling awal yang diketahui mengenai gagasan serupa dapat ditemukan dalam tulisan filsuf Romawi Seneca the Younger (4 SM - 65 M). Dalam karyanya "Epistulae Morales ad Lucilium" (Surat Moral untuk Lucilius), Seneca menulis, "Fumum esse, ubi ignis non sit, non potest." Artinya, “Tidak akan ada asap jika tidak ada api.”
Sumber potensial lain dari peribahasa ini adalah Alkitab. Dalam Kitab Amsal, ada ayat yang berbunyi, “Tidak ada asap jika tidak ada api, dan tidak ada perkataan jika tidak ada kebenaran.” (Amsal 16:28)
Di zaman modern ini, pepatah “Di mana ada asap, di situ ada api” umum digunakan dalam berbagai konteks. Hal ini sering digunakan dalam proses hukum, yang menunjukkan bahwa adanya bukti tidak langsung dapat menunjukkan kesalahan orang yang dituduh. Kata ini juga digunakan dalam bahasa sehari-hari untuk mengungkapkan gagasan bahwa biasanya ada dasar rumor atau kecurigaan, meskipun bukti konkritnya kurang.