Hồi quy bình phương tối thiểu từng phần

Hồi quy bình phương tối thiểu từng phần xây dựng một số lượng nhỏ các thành phần tiềm ẩn từ các biến dự đoán có hiệp phương sai cao với các biến phản hồi, cho phép dự đoán khi các biến dự đoán nhiều và có tính đa cộng tuyến.

Definition

Hồi quy bình phương tối thiểu từng phần là một phương pháp trích xuất các thành phần tiềm ẩn trực giao dưới dạng tổ hợp tuyến tính của các biến dự đoán được chọn để tối đa hóa hiệp phương sai của chúng với các biến phản hồi, và hồi quy các biến phản hồi trên các thành phần này.

Scope

Chủ đề này bao gồm việc xây dựng các thành phần tiềm ẩn bằng cách tối đa hóa hiệp phương sai giữa các khối biến dự đoán và biến phản hồi, sự khác biệt với hồi quy thành phần chính và bình phương tối thiểu thông thường, việc xử lý nhiều biến dự đoán tương quan hoặc có chiều cao, lựa chọn số lượng thành phần bằng kiểm định chéo, và vai trò nổi bật của phương pháp này trong hóa học lượng tử.

Core questions

• Làm thế nào để dự đoán các biến phản hồi khi có nhiều biến dự đoán tương quan cao?
• Việc trích xuất thành phần dựa trên hiệp phương sai khác với các thành phần chính dựa trên phương sai như thế nào?
• Nên giữ lại bao nhiêu thành phần tiềm ẩn?
• Tại sao phương pháp này lại quan trọng đối với hóa học lượng tử?

Key theories

Các thành phần tối đa hóa hiệp phương sai

Không giống như hồi quy thành phần chính, vốn trích xuất các thành phần có phương sai biến dự đoán tối đa, bình phương tối thiểu từng phần trích xuất các thành phần có hiệp phương sai tối đa với các biến phản hồi, định hướng việc giảm chiều để dự đoán.

Hồi quy trên các cấu trúc tiềm ẩn

Bằng cách hồi quy các biến phản hồi trên một vài thành phần tiềm ẩn được trích xuất thay vì trên các biến dự đoán ban đầu, phương pháp này ổn định ước lượng khi các biến dự đoán có tính đa cộng tuyến hoặc nhiều hơn số quan sát.

Clinical relevance

Hồi quy bình phương tối thiểu từng phần là công cụ chủ đạo của hóa học lượng tử và được sử dụng rộng rãi trong quang phổ học, gen học và các lĩnh vực khác có nhiều biến dự đoán tương quan và ít mẫu, nơi bình phương tối thiểu thông thường không ổn định.

History

Bình phương tối thiểu từng phần có nguồn gốc từ các phương pháp ước lượng lặp của Herman Wold và được Svante Wold cùng các đồng nghiệp phát triển thành một công cụ hồi quy cho hóa học lượng tử, nơi dữ liệu quang phổ có chiều cao và đa cộng tuyến khiến nó trở nên đặc biệt có giá trị.

Debates

Giải thích các thành phần tiềm ẩn

Các thành phần tiềm ẩn là sự kết hợp của tất cả các biến dự đoán và có thể khó giải thích, và những ưu điểm tương đối của bình phương tối thiểu từng phần so với các phương pháp hồi quy bị phạt để dự đoán chiều cao đang được tranh luận.

Key figures

• Herman Wold
• Svante Wold

Seminal works

• hastie2009
• wold2001
• johnson2007

Frequently asked questions

PLS khác với hồi quy thành phần chính như thế nào?

Hồi quy thành phần chính chọn các thành phần chỉ giải thích phương sai của biến dự đoán, trong khi bình phương tối thiểu từng phần chọn các thành phần cũng có hiệp phương sai cao với các biến phản hồi, thường mang lại dự đoán tốt hơn với ít thành phần hơn.

Khi nào PLS đặc biệt hữu ích?

Khi các biến dự đoán có tính đa cộng tuyến cao hoặc nhiều hơn đáng kể so với số quan sát, như trong dữ liệu quang phổ và gen học, nơi bình phương tối thiểu thông thường không thể áp dụng một cách đáng tin cậy.