Diferença entre Canvas e SVG

Pessoal, ainda estou me familiarizando com o html5, apesar de o mesmo já estar a um bom tempo no mercado.

Queria saber a diferença entre esses dois termos, canvas e svg, vi que os mesmos se relacionam a customização de formas, mas não vi com clareza a real diferença.

Tem casos em que um é mais aconselhável para usar do que o outro, ou isso é um critério de quem estará implementando o html?