Могут ли быть подобными неравные прямоугольные треугольники с общим катетом?

Да, могут.

Подобие прямоугольных треугольников определяется равенством одного острого угла (или равенством отношений соответствующих катетов). Наличие общего катета этому не мешает: если общий катет одного треугольника соответствует другому катету второго (то есть «перепутана» пара катетов), коэффициент подобия может быть не равен 1, а треугольники — неравными.

Простой пример. Пусть общий катет равен $a=1$. Возьмём первый треугольник с другим катетом $b=0{,}5$, а второй — с другим катетом $d=2$. Тогда

то есть треугольники подобны с коэффициентом $k=2$, но не равны. Их гипотенузы: $\sqrt{1^2+0{,}5^2}=\sqrt{1{,}25}$ и $\sqrt{1^2+2^2}=\sqrt{5}$, причём $\sqrt{5}/\sqrt{1{,}25}=2$.

Итак, два неравных прямоугольных треугольника с общим катетом могут быть подобными, если общий катет одного соответствует другому катету другого; если же общий катет должен соответствовать самому себе, то коэффициент подобия будет 1, и треугольники окажутся равными.