Lo que tienes que hacer es en el pedido de venta poner como unidad cm, por ejemplo, que ya viene configurada , y entonces el precio por unidad se ajustará automáticamente gracias al valor de conversión.
Con el core de OpenERP ya vienen configuradas una serie de categorías de unidades de medida como por ejemplo "Longitud/Distancia" cuya unidad de referencia es m (metros) y la unidad (cm) está definida en la misma categoría y con una precisión de redondeo con respecto a la unidad de referencia (0,010).
Si lo que prefieres es que la unidad aparezca en milímetros simplemente creas una nueva unidad que pertenezca a la categoría "Longitud/Distancia" cuyo tipo sea "Menor que la UdM de referencia" con una precisión de redondeo de 0,001 y un ratio de 1000,0000000.
La restricción de dos decimales en cantidad de producto en línea de pedido viene dada por la definición del campo "product_uom_qty" como float con digits=(16, 2)
Un saludo.