En mi opinión, MyBB está bastante bien ya que es bastante customizable, es sencillo (ni de lejos tiene tanta basura como phpBB) y tiene una gran comunidad detrás. Además, permite varias opciones de optimizado.
Lo único malo que veo es que las vistas (al igual que con phpBB) parecen más de los mediados del 2000, pero eso se puede arreglar. El sistema de templates tampoco es lo mejor que hay pero es muy sencillo crear plugins.
Personalmente, nunca me gustó vBulletin. Otra alternativa, pero de pago, es IPB y no está nada mal (también permite varias opciones para optimizar, su sistema de plantillas es bastante bueno y es sencillo extenderlo).
También hay varios sistemas de foros bastante más modernos que los mencionados anteriormente: NodeBB (hecho en NodeJS), Discourse (en Ruby on Rails, pero necesita bastantes recursos), Vanilla, etc.