El hallazgo se produjo cuando los expertos de la Galería Nacional de Escocia sometieron el lienzo a rayos X antes de una exposición.
El autorretrato oculto estaba cubierto por capas de pegamento y cartón en el reverso de una obra llamada "Cabeza de mujer campesina".
La conservadora principal de la galería, Lesley Stevenson, dijo que se quedó "estupefacta" al encontrar al artista "mirándonos".
"Cuando vimos la radiografía por primera vez, por supuesto que nos emocionamos mucho".
"Este es un descubrimiento significativo porque se suma a lo que ya sabemos sobre la vida de Van Gogh", explicó.
El artista holandés a menudo reutilizaba lienzos para ahorrar dinero, dándoles la vuelta y luego trabajando en el otro lado.
Su obra no se vendió durante su vida y su fama llegó sólo después de su muerte, en 1890 cuando tenía 37 años.
Van Gogh se convirtió en una de las figuras más famosas e influyentes de la historia del arte occidental.
"Cabeza de una mujer campesina" ingresó a la colección de la Galería Nacional de Escocia (NGS) en 1960, como parte de un regalo que hizo un destacado abogado de Edimburgo.
Muestra a una mujer local del pueblo de Nuenen, en el sur de los Países Bajos, donde el artista vivió desde diciembre de 1883 hasta noviembre de 1885.
La historia del cuadro
Se cree que Van Gogh pintó el autorretrato del otro lado del lienzo más tarde y en un momento clave de su carrera, después de mudarse a París y estar expuesto a la obra de los impresionistas franceses.
Unos 15 años después de su muerte, "Cabeza de mujer campesina" fue prestada para una exposición en el Museo Stedelijk de Ámsterdam.
Se cree que fue entonces cuando se pegó el lienzo sobre un cartón antes de enmarcarlo.
Parece que "Cabeza de mujer campesina" se consideró más "terminada" que el autorretrato del otro lado.
La pintura cambió de manos varias veces y en 1923 fue adquirida por Evelyn St Croix Fleming, cuyo hijo, Ian, se convirtió en el creador de James Bond.
Y no fue hasta 1951 que llegó a Escocia, habiendo entrado en la colección de Alexander y Rosalind Maitland, quienes más tarde lo donaron a la NGS.
Los expertos de la galería dijeron que es posible descubrir el autorretrato oculto, pero que el proceso de quitar el pegamento y el cartón requerirá un delicado trabajo de conservación.
Se están realizando investigaciones para determinar cómo se puede hacer dicho proceso sin dañar la cabeza de una mujer campesina.
Sin embargo, los visitantes de una exposición en Edimburgo podrán ver la imagen de rayos X por primera vez a través de una caja de luz especialmente diseñada.
Muestra una cara barbuda con un sombrero de ala ancha y un pañuelo anudado al cuello sin apretar. Fija al espectador con una mirada intensa, el lado derecho de su cara en la sombra y su oreja izquierda claramente visible.
La profesora Frances Fowle, curadora principal de arte francés en las Galerías Nacionales de Escocia, describió el descubrimiento como "un regalo increíble para Escocia".
"Momentos como este son increíblemente raros. Hemos descubierto una obra desconocida de Vincent Van Gogh, uno de los artistas más importantes y populares del mundo", dijo.
Varios de estos autorretratos y otras obras se han encontrado previamente pintados en el reverso de lienzos anteriores del período Nuenen.