Natsukiさんpostありがとうございます。
上記方法ではなかなかうまくいきませんでした。pathを描画してみたところ画面端に描画されていたりしていました。
現在あたり判定に使っているのが下記のコードです。
//長方形や回転画像のタッチ判定
public boolean isPointInsideRectangle(PointF pt, int imageWidth ,int imageHeight ,
PointF center,float scale,float angle) {
float mScale = scale;
float mAngle = angle;
// 表示されている画像範囲の計算
float half_w = (imageWidth * mScale) / 2;
float half_h = (imageHeight * mScale) / 2;
float left = center.x - half_w;
float right = center.x + half_w;
float top = center.y - half_h;
float bottom = center.y + half_h;
RectF rect = new RectF(left, top, right, bottom);
// (1) 矩形の中心と点の距離を計算
double l = Math.sqrt(Math.pow(pt.x - center.x, 2) + Math.pow(pt.y - center.y, 2));
// (2)矩形の中心を原点として見た相対的な点C'の座標
PointF pt2 = new PointF();
pt2.x = pt.x - center.x;
pt2.y = pt.y - center.y;
// (3)点D'と横軸のなす角r2を求める
double r1, r2;
if(pt2.x != 0) {r1 = Math.atan(pt2.y / pt2.x);}
else{r1 = Math.PI / 2;}
r2 = r1 - mAngle;
// (4)点D'の座標
PointF pt3 = new PointF();
pt3.x = (float)(l * Math.cos(r2));
pt3.y = (float)(l * Math.sin(r2));
// (5)点Dに戻す
pt3.x += center.x;
pt3.y += center.y;
// 普通の矩形と点の当たり判定
if(rect.left <= pt3.x && pt3.x <= rect.right &&
rect.top <= pt3.y && pt3.y <= rect.bottom) {
return true;
}
return false;