У вас недостаточно данных для точного вычисления.
То что линия лежит на плоскости стола - убирает некоторую неопределенность (иначе бы у вас было огромное число решений)
Но вам необходимо знать
1. Угол наклона стола к плоскости (теоретически вы можете его вычислить предполагая что тарелка круглая, т.е. нужна вторая линия для калибровки)
2. Перспективные искажения камеры (от изометрической до широкоугольной).
Для калибровки легче использовать плоскость перпендикулярную камере. Например ножки табуретки. Тогда из отношений длинн ножек в разных плоскостях (а точнее расстояний от центра перспеутивы до ножек) можем получить величину перспеутивных искажений.
Смысл в том что если мы возьмем две одинаковые плоскости X'Y' и X"Y", точнее одну и туже в разных положениях на оси Z (перпендикулярной камере, т.к.)., то положение всех точек XY будут линейно зависимы от координаты Z и величины перспективных искажений. Т.Е. все точки плоскости X"Y" это просто соскейленные точки плоскости X'Y' на величину зависящую линейно от их расстояния Z до камеры. (А мы для удобства берем систему такую координат в которой эти плоскости перпендикулярный)
scale(z) = (z/d + 1)
x' = x0 + x/scale;
y' = y0 - y/scale; (если у нас Y в обратную сторону направлен)
где x0, y0 - координаты центра перспетивы
x',y' - координаты на фотографии (координаты в плоскости перпендикулярной камере)
x,y - виртуальные координаты в 3D пространстве. (в них уже можете выситывать расстояние между точками по теореме пифагора)
У нас задача наоборот, найти исходный x и y
(x' - x0)*scale = x
Зная уже исходные xy двух точек прямой можно вычислить их Z.
А вот с задачей где отрезки лежат на наклонной плоскости немного сложнее, нужно вначале вычислить угол наклона плоскости из известных отрезков. Сходу сложно сформулировать точную формулу для отрезка на наклонной плоскости , нужно вычислять учитывая наклон стола, но что бы вам было легче вычилить по приведенным формулам представть что обе точки искомого отрезка отложены на 2-х паралельных гранях куба, расположенных перпендикулярно камере (т.е. Куб не лежит на столе!!! и его наклон относительно стола нужно вычислить) на которых нанесена координатная сетка XY.