Sự phát triển trong bối cảnh AI đã đặt mối lo ngại về bảo mật lên hàng đầu, khi cả ChatGPT của OpenAI và Q của Amazon đều phải vật lộn với các vụ rò rỉ quyền riêng tư.

OpenAI đã nhanh chóng giải quyết lỗ hổng trong ChatGPT cho phép trích xuất dữ liệu nội bộ của công ty.

Kỹ thuật này, liên quan đến việc nhắc ChatGPT lặp lại một từ vô thời hạn, đã bị gắn nhãn là gửi thư rác và vi phạm các điều khoản dịch vụ của OpenAI.

Phản hồi nhanh của OpenAI

Các nhà nghiên cứu từ các tổ chức hàng đầu, bao gồm Đại học Washington và Google DeepMind, đã phát hiện ra rằng việc nhắc ChatGPT thực hiện lặp lại từ vĩnh viễn sẽ tiết lộ thông tin cá nhân từ bản phân phối trước đào tạo của OpenAI.

Tuy nhiên, sau khi phát hành báo cáo, OpenAI đã triển khai các biện pháp phòng ngừa, trong đó ChatGPT-3 và GPT-4 hiện đưa ra cảnh báo cho người dùng đang cố gắng thực hiện các thao tác tương tự.

Chính sách nội dung và mối quan ngại về bảo mật

Mặc dù chính sách nội dung của OpenAI không đề cập rõ ràng đến vòng lặp mãi mãi nhưng nó tố cáo các hoạt động gian lận như thư rác. Đáng chú ý hơn, các điều khoản dịch vụ nghiêm cấm các nỗ lực truy cập thông tin cá nhân hoặc tiết lộ mã nguồn của các công cụ AI của OpenAI.

Công ty cho rằng việc từ chối thực hiện yêu cầu lặp lại không xác định là do các ràng buộc xử lý, giới hạn ký tự, hạn chế về mạng và lưu trữ cũng như tính không thực tế của việc thực hiện các lệnh đó.

DDoS và những thách thức dai dẳng

Sự cố này diễn ra sau tiết lộ vào tháng trước về một cuộc tấn công từ chối dịch vụ phân tán (DDoS) nhằm vào ChatGPT.

OpenAI thừa nhận mô hình lưu lượng truy cập bất thường gây ra tình trạng ngừng hoạt động định kỳ. Yêu cầu bình luận từ OpenAI về sự cố mới nhất này vẫn chưa được trả lời.

Amazon, một công ty chủ chốt trong lĩnh vực AI, đang đối mặt với những thách thức của riêng mình với chatbot Q mới ra mắt gần đây.

Các báo cáo chỉ ra khả năng rò rỉ thông tin cá nhân, khiến người ta so sánh với tình hình của OpenAI. Amazon đã hạ thấp tiết lộ này, cho rằng nó là do nhân viên chia sẻ phản hồi thông qua các kênh nội bộ. Mặc dù Amazon khẳng định không có vấn đề bảo mật nhưng mối lo ngại vẫn tồn tại khi Q chuyển từ sản phẩm xem trước sang sản phẩm có sẵn rộng rãi.