Se o resete é sistemático, pode ser WatchDog Timer, desliga e repete o teste.
Se tiver desligado o WDT e persiste. Tem cara de interferência
eletromagnética, EMI. Monitora a linha de alimentação com o
osciloscópio... aparece um ruído maior que a alimentação.
Há dois lugares para por filtro, um snubber, um Diodo rápido,
polarizado reversamente, em paralelo com a bobina do relé, e, um RC
série (0.1uF e 100R), na linha de alimentação.
Um outro ponto que pode ser causa de falhas deste tipo, é a distância
do capacitor de desacoplamento colocado em paralelo com os pinos de
alimentação do microcontrolador.
Espero ter iluminado...
[]s