Kalkulus 3 — Pertemuan 7

Max/Min Multivariabel & Lagrange Multipliers

Titik kritis, uji turunan kedua (Hessian), dan optimisasi dengan constraint menggunakan Lagrange.

Ref: Purcell, Varberg & Rigdon, Calculus 9th ed., Bab 12.7–12.8. — Stewart, Calculus 9th ed., Bab 14.7–14.8.

Optimisasi: Inti Matematika Terapan

Mencari max/min fungsi multivariabel ada di mana-mana: melatih neural network (minimize loss), desain teknik (minimize cost subject to constraints), ekonomi (maximize profit). Di pertemuan ini, kita pelajari dua tool utama: second derivative test (tanpa constraint) dan Lagrange multipliers (dengan constraint).

1. Titik Kritis

Definisi (Titik Kritis)

Titik (a,b) adalah titik kritis f(x,y) jika:

∇f(a,b) = 0 ⇔ f_x(a,b) = 0 DAN f_y(a,b) = 0

Analog Kalkulus 1: f′(x) = 0. Tetapi titik kritis bisa berupa local max, local min, atau saddle point.

2. Uji Turunan Kedua (Hessian)

Teorema (Second Derivative Test)

Di titik kritis (a,b), definisikan diskriminan Hessian:

D = f_xxf_yy − (f_xy)²

D > 0, f_xx > 0: MINIMUM LOKAL (lembah)

D > 0, f_xx < 0: MAKSIMUM LOKAL (puncak)

D < 0: SADDLE POINT (pelana)

D = 0: TES TIDAK KONKLUSIF — perlu analisis lebih lanjut

Hessian Matrix

H = | f_xx f_xy | D = det(H) = f_xxf_yy − f_xy²
| f_yx f_yy |

D > 0 berarti kedua eigenvalue Hessian memiliki tanda sama. f_xx menentukan tandanya: positif = min (surface curves up), negatif = max (surface curves down).

Visualisasi: Saddle Point z = x² − y²

3. Lagrange Multipliers

Teorema (Lagrange Multipliers)

Untuk memaksimalkan/meminimalkan f(x,y) subject to constraint g(x,y) = 0:

∇f = λ∇g dan g(x,y) = 0

Sistem: f_x = λg_x, f_y = λg_y, g(x,y) = 0 — tiga persamaan, tiga unknown (x, y, λ).

Makna Geometris Lagrange

Di titik optimum pada constraint, ∇f dan ∇g harus sejajar (satu adalah kelipatan skalar yang lain). Mengapa?

Jika ∇f memiliki komponen sepanjang constraint curve, kita masih bisa bergerak sepanjang constraint untuk meningkatkan f.

Di optimum, tidak bisa lagi meningkatkan f sambil tetap di constraint ⇒ ∇f tegak lurus constraint ⇒ ∇f sejajar ∇g (karena ∇g juga tegak lurus constraint).

Visualisasi: Gradient Sejajar di Titik Optimum

Animasi: Level Curves Mengecil & Tangency Point Bergerak

Lagrange optimum = level curve terkecil yang masih menyentuh constraint. Pada titik tangency, gradient kedua fungsi sejajar.

4. Bordered Hessian untuk Constrained Optimization

Definisi (Bordered Hessian)

Untuk problem “optimize f(x,y) subject to g(x,y)=0”, definisikan Lagrangian L = f − λg. Bordered Hessian adalah matriks (n+m)×(n+m):

Matrix “border” = baris & kolom dari constraint gradient ∇g; “core” = Hessian Lagrangian.

Test Klasifikasi (Constrained Second-Order)

Untuk 1 constraint, 2 variabel (n=2, m=1) di titik kritis Lagrange:

det(H̅) > 0 ⇒ MAKSIMUM lokal terkonstrain

det(H̅) < 0 ⇒ MINIMUM lokal terkonstrain

Catatan: kriteria tanda terbalik dibandingkan unconstrained Hessian! Karena (−1)^m+1 = (−1)² = +1 untuk min menjadi (−1) untuk max via konvensi.

Contoh: Min f = x²+y² s.t. x+y=4

L = x²+y² − λ(x+y−4)

Critical point: (2,2,λ=4). L_xx = L_yy = 2, L_xy = 0, g_x = g_y = 1.

H̅ = | 0 1 1 | / | 1 2 0 | / | 1 0 2 |

det = 0·(4) − 1·(2) + 1·(−2) = −4 < 0

⇒ (2,2) adalah MIN terkonstrain ✓

5. Multiple Constraints

Lagrange dengan k Constraints

Untuk minimize/maximize f(x) subject to g₁(x) = 0, ..., g_k(x) = 0:

∇f = λ₁∇g₁ + λ₂∇g₂ + … + λ_k∇g_k

∇f harus berada di span {∇g₁, …, ∇g_k}. Sistem: n + k persamaan, n + k unknown (x₁,…,x_n, λ₁,…,λ_k).

Geometris: feasible set = irisan k hypersurfaces (manifold berdimensi n−k). Optimum dicapai saat ∇f tegak lurus terhadap manifold ini.

Contoh: 2 Constraints di R³

Min f = x + 2y + 3z subject to:

g₁: x + y + z = 1

g₂: x² + y² + z² = 1

Feasible set = perpotongan bidang dengan bola = lingkaran di R³.

∇f = ⟨1,2,3⟩, ∇g₁ = ⟨1,1,1⟩, ∇g₂ = ⟨2x,2y,2z⟩

Sistem: 1 = λ₁ + 2λ₂x, 2 = λ₁ + 2λ₂y, 3 = λ₁ + 2λ₂z

Kurangkan: 1 = 2λ₂(y−x), 1 = 2λ₂(z−y) ⇒ y − x = z − y ⇒ 2y = x + z

Dari constraint 1: y = (1−x−z)/(?)... gunakan numerik atau parametrisasi lingkaran.

Solusi numerik (proyeksi gradient): titik kritis ≈ (−0.236, 0.333, 0.902).

6. KKT Conditions (Inequality Constraints)

Generalisasi: Inequality Constraints

Lagrange menangani equality g(x) = 0. Untuk inequality g(x) ≤ 0, kita butuh Karush-Kuhn-Tucker (KKT) conditions:

Minimize f(x) subject to g_i(x) ≤ 0, h_j(x) = 0. Lagrangian:

L(x, μ, ν) = f(x) + Σ_i μ_ig_i(x) + Σ_j ν_jh_j(x)

Empat KKT Conditions

1. Stationarity

∇f(x*) + Σ_i μ_i∇g_i(x*) + Σ_j ν_j∇h_j(x*) = 0

Generalisasi ∇L = 0.

2. Primal Feasibility

g_i(x*) ≤ 0, h_j(x*) = 0

Solusi memenuhi semua constraints.

3. Dual Feasibility

μ_i ≥ 0 (untuk semua i)

Multiplier inequality non-negatif (ν bebas tanda untuk equality).

4. Complementary Slackness

μ_i · g_i(x*) = 0 (untuk semua i)

Untuk setiap inequality: either constraint aktif (g_i=0) or multiplier nol (μ_i=0). Constraint yang “tidak mengikat” di optimum harus memiliki μ=0.

KKT in Practice

SVM (Support Vector Machines): dual problem dirumuskan via KKT. Support vectors = data points dengan μ_i > 0 (constraint margin aktif).
Quadratic Programming: KKT memberi sistem linear yang dapat dipecahkan secara efisien.
Convex Optimization: Untuk masalah konveks dengan constraint qualification (Slater’s condition), KKT necessary & sufficient untuk optimality.
Interior Point Methods: menggantikan complementary slackness dengan barrier (μ·g = μ log barrier), menghasilkan path konvergen ke optimum KKT.

7. Kalkulator Interaktif

Klasifikasi Titik Kritis (Hessian Test)

Masukkan nilai turunan kedua di titik kritis

f_xx

f_yy

f_xy

D = (4)(2) − (1)² = 7

MINIMUM LOKAL

Contoh Langkah Demi Langkah

Minimize f(x,y) = x²+y² subject to x+y = 4

g(x,y) = x + y − 4 = 0

∇f = ⟨2x, 2y⟩, ∇g = ⟨1, 1⟩

2x = λ(1) ⇒ λ = 2x

2y = λ(1) ⇒ λ = 2y

Dari (1) dan (2): 2x = 2y ⇒ x = y

Constraint: x + y = 4, x = y ⇒ x = y = 2

Minimum f(2,2) = 8, dengan λ = 4

8. Contoh Soal & Pembahasan

Soal 1: Titik Kritis & Klasifikasi

Temukan dan klasifikasi semua titik kritis f(x,y) = x³ + y³ − 3xy.

Soal 2: Lagrange Sederhana

Maximize f(x,y) = xy subject to x²+y² = 8.

Soal 3: Absolute Extrema

Tentukan max/min absolut f(x,y) = x²+2y²−2x pada D: x²+y² ≤ 4.

Soal 4: Saddle Point Detection

Tunjukkan bahwa f(x,y) = x²−y² memiliki saddle point di origin.

Soal 5: Lagrange dengan 3 Variabel

Minimize f(x,y,z) = x²+y²+z² subject to x+y+z = 12.

Soal 6: Interpretasi λ

Untuk soal 5, apa makna λ = 8?

Soal 7: Bordered Hessian

Untuk min f = xy s.t. x²+y²=2 di titik kritis (1,1, λ=−1/2)? Hitung tanda det(H̅).

Soal 8: Multiple Constraints

Min f = x²+y²+z² subject to x+y+z=1 dan x+2y+3z=6.

Soal 9: KKT (Inequality)

Min f = (x−2)² + (y−1)² subject to x ≥ 0, y ≥ 0, x+y ≤ 2.

Koneksi ke Ilmu Komputer

ML Optimization: Training = minimize loss. Second-order methods (Newton’s method) menggunakan Hessian. Saddle points menghambat training deep networks (Dauphin et al., 2014).

Constrained Optimization & SVM: Support Vector Machine menggunakan Lagrange multipliers; dual problem — max Σα_i − (1/2)ΣΣ α_iα_jy_iy_jK(x_i,x_j) s.t. Σα_iy_i=0, 0≤α_i≤C — menghasilkan support vectors (data dengan α_i > 0 via complementary slackness KKT).

← P6: Gradient & Turunan Berarah P8: Integral Ganda →

Purcell, E.J., Varberg, D. & Rigdon, S. (2007). Calculus, 9th ed. Pearson, Bab 12.7–12.8. — Stewart, J. (2020). Calculus: Early Transcendentals, 9th ed. Cengage, Bab 14.7–14.8.

Bank Soal Multi-Kompleksitas + Visualisasi Penyelesaian

Ref: Purcell 9e Bab 12.7–12.8 • Stewart 9e Bab 14.7–14.8 • Marsden-Tromba 6e Ch. 3.3

Mudah — Extrema Tanpa Constraint

M1. Titik Kritis Polinom

f(x,y) = x² + y² − 2x − 4y + 5. Cari semua titik kritis.

M2. Second Derivative Test (D-test)

f(x,y) = x³ + y³ − 3xy. Identifikasi semua titik kritis dan klasifikasikan dengan D-test.

M3. Lagrange Satu Constraint Sederhana

Maksimum f(x,y) = xy dengan constraint x+y = 10.

M4. Extrema di Closed Region

f(x,y) = x²+2y² di region x²+y² ≤ 1. Cari nilai max dan min absolut.

Sedang — Kombinasi D-Test + Lagrange

S1. Optimasi Jarak Minimum (Lagrange)

Cari titik di bidang 2x+y−z=5 yang terdekat dengan origin.

S2. Box Maksimal Volume

Kotak tanpa tutup (5 sisi) memiliki SA = 12 m². Maksimalkan volume V = xyz dengan x⋅y⋅z constraint SA.

S3. Titik Kritis Fungsi 3 Variabel

f(x,y,z) = x²+2y²+3z²−2xy+2yz. Cari titik kritis.

S4. Lagrange + Ekonomi (Cobb-Douglas)

Max output Q = L^0.6K^0.4 s.t. 5L + 10K = 600 (budget constraint).

Sulit — Multi-Step + Visualisasi Lagrange

H1. Lagrange Level Curve Intersection + SMIL

f(x,y) = x²+y²; constraint g(x,y) = x + y = 2. Visualisasikan level curve f dan constraint meeting point (Lagrange condition).

H2. Max/Min pada Ellipse (Lagrange)

Cari extrema f(x,y) = 3x + 4y pada ellipse 9x² + 16y² = 144.

H3. SVM Primal Problem (Lagrange)

SVM: min ||w||²/2 s.t. y_i(w·x_i+b)≥1. Untuk dua titik (x₁=1,y₁=+1) dan (x₂=−1,y₂=−1), cari w, b optimal di R¹.

H4. Minimisasi Berkendala pada Nilai Bilangan Bulat

Sebuah gudang hanya dapat menyimpan barang dalam jumlah bulat pada dua rak, sedangkan titik optimal hasil perhitungan kontinu adalah t = (2,3 ; 1,7). Rumuskan pencarian susunan bulat terdekat sebagai masalah minimisasi, selesaikan dengan pembulatan, lalu hitung galat ‖v − t‖.

Aplikasi / Mixed

A1. Economics: Utility Maximization

Utility U(x,y) = x^1/2y^1/2; budget 4x + 2y = 40. Cari bundle optimal dan nilai U max.

A2. Neural Network: Optimal Weight via Lagrange

Min L = (w₁−3)²+(w₂−4)² (distance from target) s.t. w₁+w₂=5 (norm-1 constraint). Cari weight optimal.

A3. Optimasi Berkendala & Harga Bayangan

Sebuah pabrik memaksimalkan keuntungan K(x,y) dengan kendala anggaran B(x,y) ≤ B₀. Rumuskan sebagai masalah maksimum berkendala dan tafsirkan makna pengali Lagrange λ pada titik optimum.