Attention có giúp giải thích mô hình hay không

1. Quan điểm lạc quan

Trọng số chú ý được xem như dấu hiệu cho biết mô hình quan tâm điều gì.
Một số nhà nghiên cứu tin rằng
nhờ đó ta có thể hiểu lý do mô hình đưa ra kết quả.

2. Quan điểm thận trọng

Có thử nghiệm cho thấy
thay đổi cơ chế chú ý mà kết quả không đảo chiều tương ứng.
Điều này gợi ý rằng chú ý có thể không hoàn toàn đại diện cho luồng suy luận của máy.

3. Yêu cầu minh bạch

Nhiều ứng dụng đòi hỏi mô hình phải giải thích được quyết định.
Nếu attention không đảm bảo điều này,
cần thêm phương pháp bổ trợ hoặc thay thế.

4. Kết luận

Attention vẫn là chủ đề nghiên cứu cần đào sâu.
Chưa đủ bằng chứng để khẳng định vai trò diễn giải rõ ràng.