В случае невыполнения задания или невыполнения задания

Правильно писать: «в случае невыполнения задания».

Слово «невыполнение» в этом выражении пишется слитно, потому что это существительное со значением «отсутствие выполнения», «неисполнение». Здесь нет противопоставления с союзом а, поэтому раздельное написание не требуется.

Пример:

В случае невыполнения задания ученик должен объяснить причину.

В случае невыполнения задания работа не будет зачтена.

Раздельно можно написать только в особом случае, когда есть противопоставление:

Это было не выполнение задания, а простое копирование чужого ответа.

То есть в обычной формулировке правильно: «в случае невыполнения задания».