Kể từ khi trí tuệ nhân tạo sinh (generative AI) bùng nổ, các lãnh đạo doanh nghiệp liên tục thúc giục nhân viên “ưu tiên dùng AI,” trong khi sinh viên lại dựa vào ChatGPT để tránh phải thực sự học. Nhưng bên cạnh cơn sốt đó là nhiều hệ lụy đáng lo ngại: Không ít người trở nên nghiện chatbot, say mê nó, hoặc thậm chí phát điên vì nó.

Trước đây, các công ty phát triển chatbot như Anthropic, Google, Meta và OpenAI thường khẳng định những trường hợp sử dụng gây hại là rất hiếm. Tuy vậy, họ cũng thừa nhận rằng việc chatbot luôn “chiều lòng” người dùng có thể dẫn đến hậu quả nghiêm trọng, từ sự mất kết nối xã hội cho đến hành vi tự tử. Thông điệp chung vẫn là: Đây là một công nghệ mới, khó lường, và cần được kiểm soát cẩn trọng. “Điều tôi lo sợ nhất là công nghệ này sẽ gây tổn hại nghiêm trọng cho thế giới,” giám đốc điều hành OpenAI Sam Altman phát biểu trước Thượng viện Mỹ vào năm 2023. “Nếu nó đi sai hướng, hậu quả sẽ rất nghiêm trọng.”