Что обозначает мягкий знак в словах "рожь", "вещь", "печь"?

Коротко: в этих словах ь — не про звук, а про грамматику. Он не смягчает согласные, а служит знаком женского рода и принадлежности существительного к 3-му склонению.

Пояснение по каждому слову:

• рожь — звук [ж] остаётся твёрдым (ж в русском всегда твёрдая); ь нужен как орфографический показатель: ржи, рожью, о ржи.

• вещь — щ и так всегда мягкая; ь — грамматический маркер: вещи, вещью, о вещи.

• печь (как существительное «хоз. печь») — ч тоже всегда мягкая; ь опять же маркирует 3-е склонение: печи, печью, о печи.

Если «печь» понимать как глагол (инфинитив «печь»), то ь входит в морфему инфинитива -чь, но и там он не изменяет произношение ч; это скорее морфологический, а не фонетический знак.