Buenas, con el relative layout podes colocar los componentes uno sobre otro, ya que se van a acomodar segun el orden que vos les des. El linear te los pone en linea, ya sea uno abajo del otro o si esta en modo horizontal te lo va a acomodar uno al lado del otro.
<RelativeLayout android:layout_width="fill_parent"
android:layout_height="fill_parent">
<ImageView android:layout_width="100dip"
android:layout_height="100dip"
android:src="@drawable/mi_Imagen"/>
<Button android:layout_height="wrap_content"
android:layout_width="wrap_content"
android:text="Mi boton"/>
</RelativeLayout>
El boton si queres que sea en el centro alcanza con agregarle el android:layout_centerInparent="true" podes ir probando los demas atributos para acomodarlo a gusto.
Espero que te haya servido.
Saludos!