Трапеция с перпендикулярными диагоналями

Пусть $AD=2a$, $BC=2b$. По симметрии равнобедренной трапеции можно взять $A=(-a;0)$, $D=(a;0)$, $B=(-b;h)$, $C=(b;h)$. Векторы диагоналей $(a+b;h)$ и $(a+b;-h)$ перпендикулярны, поэтому $(a+b)^2-h^2=0$ и $h=a+b$. Точки $M$, $N$ являются вторыми точками пересечения указанных окружностей со стороной и основанием.

Так как $CD$ является диаметром, $\angle CND=90^\circ$, откуда $CN\perp AD$ и $N=(b;0)$. Условие $N\in AD$ и невырожденность построения дают $a>b$. Аналогично $\angle AMD=90^\circ$, поэтому $AM\perp CD$. Наклон $CD$ равен $-(a+b)/(a-b)$, значит, прямая $AM$ имеет уравнение $y=\frac{a-b}{a+b}(x+a)$. При $x=b$ получаем $P=(b;a-b)$.

Имеем $BC=CP=2b$. Кроме того, $AB=AP=\sqrt{(a-b)^2+(a+b)^2}$. Поэтому $A$ и $C$ равноудалены от $B$ и $P$, а диагональ $AC$ является осью симметрии выпуклого четырёхугольника $ABCP$. Возьмём точку $O$ пересечения $AC$ с внутренней биссектрисой угла $ABC$. Она лежит на отрезке $AC$ между $A$ и $C$, то есть внутри четырёхугольника $ABCP$. Расстояния от $O$ до прямых $AB$ и $BC$ равны по свойству биссектрисы. Отражение относительно $AC$ переводит эти стороны в $AP$ и $CP$, поэтому расстояния до всех четырёх сторон равны. Круг с этим центром и радиусом целиком лежит внутри четырёхугольника и касается всех четырёх сторон. Это доказывает пункт а.

В пункте б $a=17/2$, $b=7/2$, поэтому $h=12$ и $a-b=5$. Тогда $BC=CP=7$, $AB=AP=\sqrt{12^2+5^2}=13$. Треугольники $ABC$ и $ACP$ симметричны, их площади равны. Значит, $S_{ABCP}=2\cdot\frac12\cdot7\cdot12=84$. Полупериметр равен $p=(13+7+7+13)/2=20$.

Соединив центр вписанной окружности с вершинами, получаем четыре треугольника с общей высотой $r$ к сторонам четырёхугольника. Поэтому $S=pr$, откуда $r=84/20=21/5$.