В каком случае будет происходить взаимное отталкивание молекул?

Коротко: молекулы взаимно отталкиваются, когда их электронные оболочки начинают перекрываться — то есть при очень малых расстояниях между центрами молекул, меньше суммы их ван-дер-ваальсовых радиусов. Это отталкивание — результат принципа Паули (двум электронам с одинаковыми квантовыми числами нельзя находиться в одном состоянии) и кулоновского отталкивания одноимённых зарядов электронных облаков.

Чуть подробнее по сути:

1. Условие расстояния.
   Межмолекулярный потенциал имеет «ямку» (притяжение) на равновесном расстоянии и резко растёт вверх (отталкивание) при ещё большем сближении. В простых моделях это описывают, например, потенциалом Леннард-Джонса: притяжение ~1/r⁶ и «жёсткое» отталкивание ~1/r¹². Как только r становится меньше равновесного, преобладает репульсия.

2. Квантово-механическая природа.

   • Принцип Паули / обменное отталкивание: перекрытие электронных облаков заставляет электроны «разойтись» по состояниям, что резко повышает энергию системы.

   • Кулоновское отталкивание электронов: близкое сближение увеличивает взаимное отталкивание отрицательно заряженных электронных плотностей.

3. Когда это реально наблюдается.

   • Столкновения молекул в газе: в момент удара траектории ведут себя так, как будто молекулы имеют «жёсткое ядро» — это и есть короткодействующее отталкивание.

   • Высокие давления / сжатие: при сжатии газа или кристалла молекулы насильно подводят ближе равновесного расстояния → растёт давление именно из-за репульсии (в уравнении состояния это проявляется как «исключённый объём»).

   • Контакт твёрдых тел и жидкостей: дальше смачивания/адсорбции сблизить центры молекул почти невозможно — мешает резкая репульсивная стенка потенциала.

   • Одинаковый заряд на молекулах/ионах: если молекулы несут одноимённые заряды (например, два аниона или две катионные мицеллы), они дополнительно отталкиваются электростатически уже на более длинных расстояниях.

4. Практический критерий.
   Отталкивание начинается, когда расстояние между центрами молекул меньше суммы их ван-дер-ваальсовых радиусов (или, что эквивалентно, когда потенциальная энергия начинает возрастать при дальнейшем сближении).

Итого: взаимное отталкивание молекул происходит при их слишком близком сближении (ниже равновесного расстояния), когда перекрываются электронные облака, а также между одноимённо заряженными молекулами из-за кулоновских сил.