Ambos, pero dependiendo del género su significado es distinto. Si usamos este sustantivo como masculino (un editorial), nos estamos refiriendo a un ‘artículo no firmado que expresa la opinión de la dirección de un periódico’, mientras que, si lo usamos como femenino (una editorial), hablamos de una ‘casa editora’.
No hay un nombre para este tipo de sustantivos, probablemente porque no son muchos los que tienen esta característica. En el Panhispánico de dudas solo se indica que no debemos confundirlos con los denominados nombres ambiguos en cuanto al género, los que “designando normalmente seres inanimados, admiten su uso en uno u otro género, sin que ello implique cambios de significado”, como sucede con el/la mar o el/la armazón.
Otros ejemplos son los siguientes: la cólera o el cólera (como femenino, cólera significa ira; como masculino, hace referencia a una epidemia); la coma y el coma (como femenino es un signo ortográfico; como masculino es un ‘estado patológico que se caracteriza por la pérdida de la conciencia, la sensibilidad y la capacidad motora voluntaria’).
En el Blog de Lengua encontrará otros ejemplos y ejercicios: https://goo.gl/M12DGF.