Дана трапеция ABCD, AC=3, BD=6, AD=8. Найти BC.

По этим данным $BC$ однозначно найти нельзя.

Покажу почему.

Предположим, что в трапеции $ABCD$ основания — это $AD$ и $BC$, причем

Расположим трапецию на координатной плоскости:

где $x=BC$, а $h>0$ — высота трапеции.

Тогда:

Из второй формулы

Подставляем в первую:

Отсюда

То есть длина $BC$ зависит от параметра $t$. А значит, она не фиксирована.

Можно даже привести два разных примера трапеций с теми же данными:

1) Берем $t=2.1$

Тогда

То есть

2) Берем $t=2.2$

Тогда

То есть

Получились две разные длины $BC$, при этом во всех случаях

Следовательно, задача в таком виде не имеет единственного ответа.
Найти $BC$ по данным $AC=3$, $BD=6$, $AD=8$ невозможно: данных недостаточно.