OpenAI muốn tạo ra “AI có thể đe dọa loài người”

Một báo cáo mới tiết lộ việc Sam Altman bị OpenAI sa thải, dù hiện tại ông trở lại vị trí lãnh đạo công ty.

Bức thư từ các nhà nghiên cứu gửi cho ban giám đốc trước đây của OpenAI đã được hé lộ chứa đựng một cảnh báo đáng lo ngại về việc công ty này đang “khám phá trí tuệ nhân tạo mạnh mẽ có thể đe dọa loài người”.

Q-Star là một trong những dự án AI đầy lo ngại mà OpenAI nghĩ đến?

Ban đầu OpenAI đã từ chối bình luận về bức thư, nhưng sau đó họ thừa nhận trong một thông điệp nội bộ gửi đến nhân viên rằng OpenAI có một dự án tên là Q* (Q-Star), đồng thời cung cấp thông tin rõ hơn về bức thư. Cụ thể, nội dung thư được gửi bởi Mira Murati - người từng là Giám đốc Công nghệ tại OpenAI và CEO tạm thời của công ty trong 2 ngày sau khi Sam Altman bị “lật đổ”. Không rõ Murati giữ vai trò gì vào thời điểm gửi bức thư nhưng nội dung thư cho thấy các nhà nghiên cứu của công ty đã cảnh báo nhân viên công ty về những câu chuyện truyền thông mà không bình luận về tính chính xác của chúng.

Một số nhân viên tin rằng Q* có thể là bước đột phá trong cuộc tìm kiếm AI tổng hợp (AGI) của OpenAI. AGI là một hệ thống tự trị vượt qua con người trong hầu hết các nhiệm vụ có giá trị kinh tế. Mô hình Q* mới được cho là đã giải quyết được một số vấn đề toán học nhất định, khiến các nhà nghiên cứu lạc quan về sự thành công trong tương lai của nó.

"AI đe dọa loài người" Q-Star chính là lý do khiến Sam Altman bị sa thải.

Bức thư của các nhà nghiên cứu gửi đến ban giám đốc tiền nhiệm được cho là cảnh báo về sức mạnh và mối nguy hiểm tiềm tàng của AI. Các nhà nghiên cứu cũng đã đánh dấu công trình này được tạo bởi một “nhóm nhà khoa học AI”, vốn được thành lập bằng cách kết hợp các nhóm Code Gen và Math Gen tại OpenAI. Nhóm kết hợp này đang khám phá cách tối ưu hóa các mô hình AI hiện có để cải thiện khả năng suy luận và cuối cùng là thực hiện công việc khoa học.

Giờ đây, sau khi quay trở lại vị trí lãnh đạo OpenAI, Sam Altman đã đồng ý tiến hành một cuộc điều tra nội bộ về hành vi bị cáo buộc gây ra “chuỗi sự kiện” tại công ty trong những ngày qua. Trước đó, khi đưa ra lý do công khai của việc sa thải Altman, ban giám đốc trước đó của công ty nói rằng Atman đã không “trung thực” với các thành viên hội đồng quản trị.

Nguồn: [Link nguồn]Nguồn: [Link nguồn]