"он дома, но НЕ В ТРЕЗВОМ состоянии" или "он дома, но В НЕТРЕЗВОМ состоянии" Или оба варианта будут правильными?

Оба варианта возможны, но они чуть по-разному звучат и означают.

1. «Он дома, но не в трезвом состоянии.»
   Это конструкция с частицей «не», которая отрицает признак «трезвый». Она подчёркивает именно отрицание трезвости, но не называет причину: человек может быть пьян, может быть под действием лекарств, утомлён, оглушён — просто «не трезв». Такая форма удобна, когда важно оставить формулировку шире или мягче.

2. «Он дома, но в нетрезвом состоянии.»
   Здесь «нетрезвый» — обычное прилагательное с приставкой «не-», устойчивое сочетание «в нетрезвом состоянии». Оно прямее намекает именно на алкогольное опьянение (или, по крайней мере, на опьянение), звучит официально-канцелярски и часто встречается в протоколах, сообщениях полиции, СМИ.

Итог: грамматически корректны оба, запятая перед «но» обязательна. Выбирайте по смыслу: если хотите аккуратно констатировать отсутствие трезвости без уточнений — «не в трезвом состоянии»; если нужно прямо указать на опьянение — «в нетрезвом состоянии».