Можно ли из квадратной скобки вынести общий множитель за скобку, например, из выражения (3a - 3b)^2 вынести 3?

Да, можно вынести общий множитель за скобку, но важно сделать это правильно.

В выражении:

внутри скобок у обоих слагаемых есть общий множитель 3:

Поэтому выражение можно переписать так:

Но дальше нужно помнить, что в квадрат возводится вся скобка, то есть и число 3 тоже:

Итог:

Главная ошибка — написать так:

Это неверно, потому что множитель 3 тоже находится внутри скобки, которая возводится в квадрат. Поэтому он превращается в $3^2$, то есть в 9.

То же правило работает и в общем виде:

Например:

Так что из $(3a - 3b)^2$ вынести 3 можно, но после возведения в квадрат перед скобкой получится не 3, а 9.