Bài toán biện luận số cực trị của hàm số hợp $y = f(g(x))$ là một trong những dạng toán khó và thường xuất hiện trong đề thi THPT Quốc gia. Thầy Phạm Tín sẽ hướng dẫn các em phương pháp giải quyết bài toán này một cách triệt để.

Để tìm cực trị của hàm số $y = h(x)$, ta cần tìm các nghiệm của phương trình $h'(x) = 0$ và kiểm tra sự đổi dấu của $h'(x)$ khi đi qua các nghiệm đó.
Với hàm số hợp $y = h(x) = f(g(x))$, ta tính đạo hàm theo công thức đạo hàm hàm hợp:
$$h'(x) = [f(g(x))]' = f'(g(x)) \cdot g'(x)$$
Để tìm cực trị, ta giải phương trình $h'(x) = 0$, tương đương với:
$$f'(g(x)) \cdot g'(x) = 0$$
Phương trình này dẫn đến hai trường hợp:
$$\begin{cases} f'(g(x)) = 0 & (1) \\ \text{hoặc } g'(x) = 0 & (2) \end{cases}$$
Đề bài: Cho hàm số $y = f(x)$ có đồ thị hàm số $y = f'(x)$ như hình vẽ (đường nét liền).
Tìm số điểm cực trị của hàm số $g(x) = f(x^2 - 2x + m)$.
Phân tích đồ thị $y = f'(x)$:
Từ đồ thị $y = f'(x)$, ta thấy $f'(x)$ cắt trục hoành tại ba điểm phân biệt, giả sử là $x = a$, $x = b$, và $x = c$, với $a < b < c$.
Vậy, phương trình $f'(x) = 0$ có ba nghiệm đơn là $x_1 = a, x_2 = b, x_3 = c$.
Ta có hàm số $g(x) = f(u)$, với $u = x^2 - 2x + m$.
$$g'(x) = [f(x^2 - 2x + m)]' = f'(x^2 - 2x + m) \cdot (2x - 2)$$
$$f'(x^2 - 2x + m) \cdot (2x - 2) = 0$$
Tương đương với:
$$\begin{cases} 2x - 2 = 0 & (I) \\ \text{hoặc } f'(x^2 - 2x + m) = 0 & (II) \end{cases}$$
Giải (I):
$$2x - 2 = 0 \Leftrightarrow x = 1$$
Đây là một nghiệm đơn, chắc chắn tạo ra một cực trị (vì $g'(x)$ đổi dấu khi qua $x=1$).
Giải (II):
Từ phân tích đồ thị $f'(x)$, ta có $f'(X) = 0$ khi $X = a$, $X = b$, hoặc $X = c$. Đặt $X = x^2 - 2x + m$, ta được ba phương trình:
$$\begin{cases} x^2 - 2x + m = a & (II_1) \\ x^2 - 2x + m = b & (II_2) \\ x^2 - 2x + m = c & (II_3) \end{cases}$$
Ta đưa các phương trình về dạng tương giao, sử dụng phương pháp cô lập tham số $m$:
$$x^2 - 2x = k - m \quad \text{hoặc} \quad x^2 - 2x - k = -m$$
Xét hàm số $h(x) = x^2 - 2x$. Đồ thị $y = h(x)$ là một Parabol có đỉnh tại $x = -\frac{(-2)}{2 \cdot 1} = 1$, giá trị tại đỉnh là $h(1) = 1^2 - 2(1) = -1$.
Các phương trình trở thành:
$$\begin{cases} x^2 - 2x = a - m \\ x^2 - 2x = b - m \\ x^2 - 2x = c - m \end{cases}$$
Số nghiệm của mỗi phương trình phụ thuộc vào mối quan hệ giữa giá trị $k - m$ (với $k \in \{a, b, c\}$) và giá trị cực tiểu của $h(x)$ là $-1$.
Lưu ý quan trọng: Tổng số cực trị của $g(x)$ bằng số nghiệm đơn của $g'(x)=0$. Do $f'(a), f'(b), f'(c)$ là các nghiệm đơn, nên các nghiệm của $(II_1), (II_2), (II_3)$ là nghiệm đơn, trừ trường hợp nghiệm đó bị trùng với nghiệm $x=1$ của $(I)$.
Giả sử: Từ đồ thị, ta có $a = -2, b = 0, c = 3$.
Ta cần tìm $m$ để hàm số có 5 cực trị (tổng cộng 5 nghiệm đơn, bao gồm $x=1$).
Điều này yêu cầu hai trong ba phương trình $(II_1), (II_2), (II_3)$ phải có 2 nghiệm phân biệt, và một phương trình vô nghiệm.
Thay giá trị:
Vậy, để bài toán có lời giải, cần phải biết vị trí chính xác của các điểm cực trị $a, b, c$ trên đồ thị $f'(x)$ để có thể xác định các khoảng giá trị của $m$.
Tóm lại: Số cực trị là $1$ (từ $x=1$) + Số nghiệm của $x^2 - 2x = k - m$ (với $k \in \{a, b, c\}$).
Đây là phương pháp nền tảng để giải quyết hầu hết các bài toán cực trị hàm số hợp.