Trưởng bộ phận robot OpenAI từ chức vì phản đối AI giám sát

Trưởng bộ phận robot và phần cứng tiêu dùng tại OpenAI, Caitlin Kalinowski, tuyên bố từ chức vì phản đối thỏa thuận AI gây tranh cãi giữa OpenAI và Bộ Quốc phòng Mỹ (Lầu Năm Góc).

Trong các bài đăng mạng xã hội, Kalinowski nói quyết định không dễ, nhấn mạnh AI liên quan trực tiếp đến an ninh quốc gia nhưng cần thảo luận kỹ hơn về các rủi ro và cơ chế bảo vệ trước khi công bố hoặc triển khai.

Vì sao Kalinowski từ chức tại OpenAI?

Kalinowski cho biết cô rời vị trí lãnh đạo vì phản đối thỏa thuận AI mới giữa OpenAI và Bộ Quốc phòng Mỹ, cho rằng các tác động và cơ chế bảo vệ chưa được làm rõ đầy đủ.

Cô viết quyết định không dễ, đồng thời nhấn mạnh vai trò của trí tuệ nhân tạo trong an ninh quốc gia. Tuy nhiên, cô cho rằng cần thảo luận cẩn trọng về các nguy cơ như giám sát người Mỹ không có giám sát tư pháp và vũ khí tự động sát thương không có con người phê duyệt.

Kalinowski mô tả đây là vấn đề nguyên tắc, không mang tính cá nhân. Cô cũng bày tỏ sự tôn trọng sâu sắc đối với CEO Sam Altman và đội ngũ của ông, dù vẫn giữ quan điểm phản đối cách thức và nội dung thỏa thuận.

Tranh cãi xoay quanh thông báo thỏa thuận AI với Lầu Năm Góc

Trên nền tảng X, Kalinowski nói mối lo chính là thông báo thỏa thuận được đưa ra quá vội và thiếu các biện pháp bảo vệ được định nghĩa rõ ràng.

Cô coi đây chủ yếu là vấn đề quản trị, liên quan đến các chính sách lớn và không nên được quyết định vội vàng. Trọng tâm phản đối không chỉ nằm ở việc AI tham gia các lĩnh vực nhạy cảm, mà còn ở quy trình ra quyết định và chuẩn bảo vệ đối với các rủi ro xã hội nêu trên.