GPT-2 và nỗi lo sức mạnh sinh ngôn ngữ

Khi GPT-2 được công bố, cộng đồng choáng ngợp: mô hình sinh văn bản dài, mạch lạc, khó phân biệt với người. Zero-shot performance mạnh làm dấy lên lo ngại về khả năng thao túng nhận thức đại chúng. Thông số đáng chú ý 2019:

• 1.5 tỷ tham số
• Dữ liệu web mở rộng
• Sinh văn bản gần như tự nhiên như người Nhưng rủi ro đạo đức nổi bật:
• Fake news tự động
• Giả mạo danh tính
• Tấn công nhận thức cộng đồng Vì an toàn, OpenAI không công bố bản lớn nhất ngay. Đây là lần đầu AI ngôn ngữ đe dọa thực tế ngoài phòng lab. GPT-2 cho thấy khi AI có sức mạnh ngôn từ, nó cũng có sức mạnh gây hại.