Hola Vili!
Normalmente lo que se hace es "Exportar" el archivo y marcar la opción de "Abrir cuando se exporte". Esto tiene un inconveniente dependiendo de como se use, el archivo original quedaría en FileMaker y el que se Exporta y Abre automaticamente, seria "temporal", si quieres modificar el archivo al abrirlo, tienes que volver a insertar el archivo editado en FileMaker con los cambios hechos.
Otra Opción sería Guardar el archivo kml en el contenedor pero con almacenamiento "Externo" (le configuras al campo contenedor que te lo guarde en una carpeta del disco duro, en vez de. integrado en filemaker), lo cual puedes abrir la carpeta donde está el archivo (para luego darle doble click y abrirlo)
Si solo es para visualizarlo "temporalmente", "exportar contenido del campo".. y checkea la opción de "Abrir al exportar"...
Saludos!