Yo siempre recomiendo seguir estos pasos.
1.- Hacer respaldo de la base de datos.
2.- Ir a Mantenimiento y elegir verificar archivos.
Hacer respaldo de los archivos cambiados ya que algo debimos hacer en ellos. No es necesario respaldar todos, pues estos serían los archivos originales y esos podemos obtenerlos en mybb. Ya que ahí están todas las versiones disponibles. (1.8.x actualmente). El sistema te va a marcar los archivos cambiados, esos respaldalos.
3.- Subir los archivos de la nueva versión de MyBB.
4.- Renombrar el directorio inc/plugins.
No es necesario desactivarlos ni desinstalarlos. Simplemente agregando algo al final en el directorio raíz de ellos basta.
Yo uso pluginsX y con eso basta para que si hay contenidos que puedan afectar o alterar la instalación o actualización no afecten en nada. Aunque últimamente ya ni eso hago, jajaja. Al usar plugins bien hechos y que sé que funcionan, porque los pruebo en local en la ultima versión antes de hacer mi actualización vaya. Y ahí es cuando si todo va bien, procedo a realizarla.
5.- Ejecutar el script de actualizacion o de instalación dependiendo de lo que quieras hacer vaya. Instalar elimina todo y crea una copia nueva. Actualizar deja todo y únicamente hace los cambios de la nueva revisión a tu base actual para que todo funcione bien.
Ahí deberás elegir bien todo; como versión de la cual estas actualizando, y seguir los pasos como en cualquier otra actualización.
6.- Revisar que todo funcione bien.
7.- Renombra al original el directorio plugins de nuevo. De pluginsX a plugins.
8.- Verificar si no hay errores y listo !!
Si aquí experimentas errores habrá que buscar actualización de plugins, o ir verificando uno a uno para ver cual es el conflictivo. Buscar uno similar o prescindir de él.
Y seria todo. Por lo regular no hay problemas y el proceso es rápido. Pero si lo deseas puedes desactivar tu foro y ponerle una directiva al htaccess para no permitir acceso a los usuarios.
Yo solo hago eso en caso de errores graves y hasta dar solución lo reactivo. Pero francamente nunca tuve problemas desde 1.6.3 que fue donde comencé.
Ahora yo primero pruebo todo en local y hasta ver que todo marcha bien actualizo. Pero a veces me sucede lo mismo de errores por eso hago paquetes, cuando me he aventurado a actualizar si probar antes en local. De hecho aquí actualizamos con este paquete y todo funciona perfecto, pero antes lo probe en local todo vaya y como vi que funcionaba la mayor parte dije, pues creo que es correcto y ya los fixes sobre la marcha.
Quizá haya cambios pues como te dije miro cuales y los respaldo y luego corrijo y ya resubo los paquetes con las versiones más funcionales totalmente en español para evitar que aquellos con poco conocimiento tengan que ir al sitio y leer todo en inglés o aventurarse por si mismos y dañar sus foros :D.
9.- Realizar cambios a los archivos de acuerdo a los que respaldaste en el paso 2 comparándolos con el original de esa versión que tenías tu instalada antes de actualizar, asi comparas los cambios exactos y los puedes hacer en los nuevos archivos. (Hay editores como ultracompare para esa tarea).
10.- Listo...
NOTA: Si usas plugins como Google SEO el mismo plugin te avisa de aplicar cambios al functions.php. Así como otros similares.
Y si todo está correcto tu foro quedará en un plis andando de nuevo y sin problemas.
Saludos...