Как проверить слово "остролистного"?

Я бы проверял так:

1. Это форма прилагательного остроли́стный (род. п. ед. ч. м./ср. р.: остролистного). Слово сложное: основы остр- (‘острый’) + лист- (‘лист’) с соединительной гласной -о-. Эту гласную не “проверяют” подбором формы — она пишется по правилу: в сложных словах между основами чаще ставится -о- (остро- + -листный → остро-листный → остролистный).

2. Корень -лист-: безударная и проверяется словом лист (ли́ст — листо́в — ли́стики).

3. Н/НН: пишется одна Н — это качественное прилагательное с суффиксом -н- (лист-н-), не **-енн-/-онн-*. Поэтому: остролистный, остролистного.

4. Окончание -ого — обычное окончание родительного падежа ед. ч. м./ср. р. у прилагательных: какого? остролистного.

И частая ошибка: писать мягкий знак — неправильно остролистьный. Верно: остролистный / остролистного.