Penicillin nace en 1992, pero hacen sus primeros lanzamientos hasta 1994 cuando lanzan el álbum Penicillin Shock el cual contenía 8 piezas. La banda originalmente nace con Gisho como vocalista pero muy poco tiempo después Hakuei toma la posición de vocalista hasta la fecha y Gisho pasa a ser el bajista de la banda.