Chọn phương án A.

Để phương trình đã cho có nghiệm thì $$\begin{eqnarray*}
&a^2+b^2\geq& c^2\\
\Leftrightarrow&5^2+(-m)^2\geq&(m+1)^2\\
\Leftrightarrow&25+m^2\geq&m^2+2m+1\\
\Leftrightarrow&12\geq&m.
\end{eqnarray*}$$