LAMA – Khi AI khai quật tri thức ẩn trong mô hình ngôn ngữ

Một nhóm nghiên cứu đặt ra một câu hỏi kỳ lạ: “Trong đầu những mô hình ngôn ngữ đang có bao nhiêu tri thức thật sự?” LAMA trở thành chiếc đèn pin soi vào vùng trí nhớ mờ ảo ấy. Bằng các câu điền vào chỗ trống đơn giản, họ khám phá mô hình có thể trả lời về địa lý, lịch sử, khoa học… mà không cần internet.

Điều này khiến mọi người bối rối: mô hình không được dạy các sự kiện một cách có cấu trúc, nhưng lại nhớ và sử dụng chúng. Giữa 2022, cuộc tranh luận nổ ra: mô hình có kiến thức hay chỉ thống kê? Nếu nó thật sự có tri thức, thì ai sở hữu tri thức đó? Và nếu tri thức sai, ai chịu trách nhiệm?

LAMA không phải mô hình, mà là lời nhắc: dữ liệu huấn luyện nuôi dưỡng trí nhớ của AI. 2022 là năm chúng ta bắt đầu hiểu rằng “AI biết nhiều thứ hơn chúng ta tưởng — và có khi cả những thứ nó không nên biết”.