Primero de todo ejecuta la misma versión que hay en el servidor antiguo del instalador .exe como si de una instalación nueva se tratara.
Si no tuvieras la misma versión por ser antigua, migra a la última versión en el servidor antiguo y luego haz el traslado.
A continuación para el servicio de OpenFire en el servidor antiguo y copia el contenido de esta carpeta en la carpeta de instalación del servidor nuevo:
C:\Program Files (x86)\Openfire\conf
Por último, si se está usando la BD embebida que ofrece OpenFire:
Base de Datos y Versión: HSQL Database Engine 1.8.0
Driver JDBC: HSQL Database Engine Driver
Versión del Driver JDBC: 1.8.0
URL de conexión a la BD: jdbc:hsqldb:C:\Program Files (x86)\Openfire\embedded-db\openfire
Simplemente copia el contenido del servidor antiguo y traspásala al nuevo servidor:
C:\Program Files (x86)\Openfire\embedded-db\openfire
Inicia el servicio en el servidor nuevo y entra con el mismo usuario y contraseña que usabas en el servidor antiguo.