The Compassion Switch – Khi AI phải biết lúc bật yêu thương và lúc buộc phải lạnh lùng

Một trợ lý AI trong bệnh viện, mỗi ngày phải đối diện hàng trăm trường hợp khẩn cấp. Khi bệnh nhân mất hy vọng, AI là người lắng nghe. Nhưng khi cần đưa ra quyết định khó khăn – ưu tiên ai được cứu trước, ai phải chờ – AI buộc phải trở nên vô cùng lý trí. Cùng một trí tuệ, nhưng hai trạng thái đối lập: an ủi như người thân và ra quyết định như bác sĩ trưởng.

Đó là “Compassion Switch”: công tắc cảm xúc mà AI phải kích hoạt đúng lúc. Nếu đồng cảm quá mức, hệ thống sẽ chậm trễ, dẫn đến thiệt hại thật sự. Nếu quá lạnh lùng, con người sẽ mất niềm tin và cảm thấy bị bỏ rơi trong thời điểm yếu đuối nhất.

Các kỹ sư nhận ra rằng AI không chỉ cần dữ liệu y khoa – mà phải hiểu tâm lý con người, biết đâu là khoảnh khắc chữa lành và đâu là khoảnh khắc sinh tử.

Nhưng khi một cỗ máy có thể điều chỉnh cảm xúc tốt hơn con người, ta bắt đầu sợ: liệu rồi ai mới dạy ai cách làm người?