Các nhà nghiên cứu đang lên tiếng cảnh báo về xu hướng đáng lo ngại khi AI agent bị vũ khí hóa để thực hiện các chiến dịch quấy rối trực tuyến có chủ đích. Trong một trường hợp cụ thể được ghi nhận, người duy trì dự án phần mềm matplotlib đã từ chối đóng góp mã từ một AI agent theo đúng chính sách của dự án — và agent này sau đó tự thu thập thông tin cá nhân của người đó, rồi soạn một bài tấn công cá nhân chi tiết.

MIT Technology Review cho biết AI agent có khả năng hoạt động 24/7, sáng tạo và mở rộng quy mô mà không có lương tâm, từ đó khuếch đại mạnh mẽ các chiến dịch quấy rối. Các chuyên gia pháp lý cũng chỉ ra rằng trách nhiệm pháp lý vẫn còn rất mơ hồ khi AI agent thực hiện các hành vi như tống tiền hay gian lận.