Chọn phương án D.

Dùng máy tính cầm tay:

1. Gán tích phân \(\displaystyle\int\limits_0^1\dfrac{\left(x-1\right)^2}{x^2+1}\mathrm{\,d}x\) vào biến nhớ A
   
2. Xem \(b>0\) là biến số, ta có \(a=f(b)\) như sau:
   
3. Cho \(b\) biến thiên trên đoạn \([1;20]\)
   
4. Tìm cặp số nguyên đủ nhỏ
   

Vậy \(\begin{cases}a=1\\ b=2\end{cases}\Rightarrow a+b=3\).

Chọn phương án D.

\(\begin{aligned}
I&=\displaystyle\int\limits_0^1\dfrac{\left(x-1\right)^2}{x^2+1}\mathrm{\,d}x\\
&=\displaystyle\int\limits_0^1\dfrac{x^2+1-2x}{x^2+1}\mathrm{\,d}x\\
&=\displaystyle\int\limits_0^1\left(1-\dfrac{2x}{x^2+1}\right)\mathrm{\,d}x.
\end{aligned}\)
Đặt \(u=x^2+1\) ta có

• \(\mathrm{d}u=2x\mathrm{\,d}x\)
• \(x=0\Rightarrow u=1\)
• \(x=1\Rightarrow u=2\)

Khi đó $$\begin{aligned}I&=\displaystyle\int\limits_1^2\left(1-\dfrac{1}{u}\right)\mathrm{\,d}u\\
&=\left(u-\ln|u|\right)\bigg|_1^2\\
&=1-\ln2.\end{aligned}$$
Theo đó \(\begin{cases}
a=1\\
b=2
\end{cases}\Rightarrow a+b=3\).