Chọn phương án A.

Gọi \(n\) là số học sinh nữ (\(2\leq n\leq9\), \(n\in\Bbb{N}^*\)).

• Chọn ngẫu nhiên \(2\) trong số \(9\) học sinh, có \(\mathrm{C}_9^2=36\) cách.
• Chọn \(2\) trong số \(n\) học sinh nữ, có \(\mathrm{C}_n^2\) cách.

Theo đề ta có: $$\begin{aligned}
&\,\dfrac{\mathrm{C}_n^2}{36}=\dfrac{5}{18}\\
\Leftrightarrow&\,\mathrm{C}_n^2=\dfrac{5}{18}\cdot36=10\\
\Leftrightarrow&\,\dfrac{n!}{2!(n-2)!}=10\\
\Leftrightarrow&\,\dfrac{n(n-1)}{2}=10\\
\Leftrightarrow&\,n^2-n-20=0\\
\Leftrightarrow&\,\left[\begin{array}{ll}
n=5 &\text{(nhận)}\\
n=-4 &\text{(loại)}
\end{array}\right.
\end{aligned}$$
Vậy tổ có \(5\) học sinh nữ.