Pergunta de entrevista da empresa UC Merced

solve this math problem using factoring