Chọn phương án D.

$\begin{aligned}
&3\cos x+\cos2x-\cos3x+1=2\sin x\sin2x\\
\Leftrightarrow&\left(2\cos x+\cos2x\right)+\left(\cos x-\cos3x\right)+1=2\sin x\sin2x\\
\Leftrightarrow&\left(2\cos x+2\cos^2x-1\right)-2\sin2x\sin(-x)+1=2\sin x\sin2x\\
\Leftrightarrow&2\cos^2x+2\cos x+2\sin2x\sin x=2\sin x\sin2x\\
\Leftrightarrow&2\cos^2x+2\cos x=0\\
\Leftrightarrow&\left[\begin{array}{l}
\cos x=0\\
\cos x=-1
\end{array}\right.\\
\Leftrightarrow&\left[\begin{array}{l}
x=\dfrac{\pi}{2}+k\pi\\
x=\pi+k2\pi
\end{array}\right.
\end{aligned}$

• Với $x=\dfrac{\pi}{2}+k\pi$: $$0<\dfrac{\pi}{2}+k\pi<2\pi\Leftrightarrow-\dfrac{1}{2}< k<\dfrac{3}{2}$$Vì $k\in\mathbb{Z}$ nên $\left[\begin{array}{l}k=0\\ k=1\end{array}\right.\Leftrightarrow\left[\begin{array}{l}x=\dfrac{\pi}{2}\\ x=\dfrac{3\pi}{2}\end{array}\right.$
• Với $x=\pi+k2\pi$: $$0<\pi+k2\pi<2\pi\Leftrightarrow-\dfrac{1}{2}< k<\dfrac{1}{2}$$Vì $k\in\mathbb{Z}$ nên $k=0\Leftrightarrow x=\pi$

Vậy nghiệm lớn nhất trong khoảng $(0;2\pi)$ của phương trình đã cho là $\alpha=\dfrac{3\pi}{2}$.

Khi đó $\sin2\alpha=\sin3\pi=0$.