Почему слово "домище" не является проверочным к слову "чудище"?

Разбираю это как орфографический и словообразовательный вопрос: здесь важно не «похоже звучит», а в какой именно части слова находится сомнительная буква и по какому правилу она пишется.

Потому что «домище» и «чудище» — не проверочное слово и проверяемое слово, а просто слова одной модели образования.

Проверочным словом в русском языке может быть только форма того же слова или однокоренное слово, где сомнительная буква оказывается в сильной позиции: под ударением, перед гласной и так далее. Например, чтобы проверить безударную гласную в корне, подбирают именно родственное слово, а не любое похожее по строению.

У слов «чудище» и «домище» корни разные:

• чуд- в слове «чудище»,

• дом- в слове «домище».

Общее у них не корень, а только суффикс -ищ-, который придаёт значение чего-то большого, огромного, часто с оттенком грубости или выразительности. Поэтому «домище» не проверяет «чудище», а лишь показывает такой же способ словообразования.

То есть здесь нужно различать две вещи:

1. Проверочное слово
Оно нужно для проверки конкретной орфограммы в родственном слове.

2. Слово на то же правило
Оно не проверяет, а только показывает аналогичную модель написания.

Вот «домище» — это именно слово на то же правило, а не проверочное.

Если разбирать слово «чудище», то его написание объясняется не подбором слова «домище», а строением самого слова: оно образовано от «чудо» с помощью суффикса -ищ-. Поэтому здесь правильнее говорить так:
«домище» — не проверочное слово, а аналогичный пример слова с суффиксом -ищ-.

Именно поэтому в школьном разборе ответ будет такой: «домище» не является проверочным к слову «чудище», потому что это не однокоренные слова; совпадает только суффикс, а проверочное слово должно быть родственным.