Saludos
En lo particular no veo la forma en la que se pueda detectar. por la siguiente razón.
*** Convertir cadena a binario base 64
B64= STRCONV("ROBERT MARTÍNEZ",13)
? B64
*** Convertir cadena binaria base 64 en cadena simple
? STRCONV(B64,14)
Como podrás ver la cadena binaria de base 64 sigue siendo una cadena de texto común y corriente donde no existen identificadores específicos que puedan ser usado para determinar el tipo de codificación.