PHP - Fazer upload de arquivos maiores que 2MB

Para aumentar a capacidade de upload é necessário alterar o arquivo php.ini:

upload_max_filesize=64M
post_max_size=64M

max_execution_time = 120
max_input_time = 120

Note que é importante aumentar o tempo de execução, no caso, em 120 segundos, pois isso será necessário para arquivos maiores.
Neste exemplo o tamanho foi aumentado de 2MB para 64MB.
Esse exemplo funciona também para o wordpress.

Não esquecer de reiniciar o servidor apache para que as modificações tenham efeito.