Năm thượng nghị sĩ Đảng Dân chủ nổi bật đã gửi một bức thư tới Giám đốc điều hành OpenAI, Sam Altman, yêu cầu làm rõ về các quy trình an toàn và tuyển dụng của công ty.
Bức thư – được ký bởi các Thượng nghị sĩ Brian Schatz, Ben Ray Luján, Peter Welch, Mark R. Warner và Angus S. King, Jr. – được gửi nhằm phản hồi các báo cáo gần đây đặt câu hỏi về cam kết của OpenAI đối với các mục tiêu đã nêu về phát triển AI an toàn và có trách nhiệm.
Các thượng nghị sĩ nhấn mạnh tầm quan trọng của an toàn AI đối với khả năng cạnh tranh kinh tế quốc gia và vị thế địa chính trị. Họ lưu ý rằng OpenAI có các mối quan hệ đối tác với chính phủ Mỹ và các cơ quan an ninh quốc gia để phát triển các công cụ an ninh mạng, điều này làm nổi bật bản chất quan trọng của các hệ thống AI an toàn.
“An ninh quốc gia và kinh tế là những trách nhiệm quan trọng nhất của Chính phủ Hoa Kỳ, và các hệ thống AI không an toàn hoặc dễ bị tổn thương là không thể chấp nhận,” bức thư viết.
Các nhà lập pháp yêu cầu thông tin chi tiết về một số lĩnh vực chính trước ngày 13 tháng 8 năm 2024. Các lĩnh vực này bao gồm:
Sự giám sát của quốc hội diễn ra trong bối cảnh ngày càng tăng tranh luận về quy định và các biện pháp an toàn đối với AI. Bức thư đề cập đến các cam kết tự nguyện của các công ty AI hàng đầu với Nhà Trắng vào năm ngoái, coi đó là “một bước quan trọng trong việc xây dựng niềm tin” về an toàn và bảo mật AI.
Kamala Harris có thể là tổng thống Mỹ tiếp theo sau cuộc bầu cử vào cuối năm nay. Tại Hội nghị An toàn AI ở Anh năm ngoái, Harris đã nói: “Hãy rõ ràng, có những mối đe dọa bổ sung cũng yêu cầu hành động của chúng ta. Những mối đe dọa hiện đang gây hại, và đối với nhiều người cũng cảm thấy như là vấn đề sinh tử… khi mọi người trên khắp thế giới không thể phân biệt được thực tế và hư cấu vì sự tràn ngập của các huyền thoại và thông tin sai lệch được hỗ trợ bởi AI.”
Chelsea Alves, một cố vấn của UNMiss, nhận xét: “Cách tiếp cận của Kamala Harris đối với AI và quy định công nghệ lớn là kịp thời và quan trọng khi bà bước vào cuộc đua tổng thống. Các chính sách của bà có thể thiết lập những tiêu chuẩn mới về cách chúng ta điều hướng những phức tạp của công nghệ hiện đại và quyền riêng tư cá nhân.”
Phản hồi từ OpenAI đối với những câu hỏi này có thể có những tác động quan trọng đối với tương lai của quản trị AI và mối quan hệ giữa các công ty công nghệ và các cơ quan giám sát của chính phủ.
Bức thư – được ký bởi các Thượng nghị sĩ Brian Schatz, Ben Ray Luján, Peter Welch, Mark R. Warner và Angus S. King, Jr. – được gửi nhằm phản hồi các báo cáo gần đây đặt câu hỏi về cam kết của OpenAI đối với các mục tiêu đã nêu về phát triển AI an toàn và có trách nhiệm.
Các thượng nghị sĩ nhấn mạnh tầm quan trọng của an toàn AI đối với khả năng cạnh tranh kinh tế quốc gia và vị thế địa chính trị. Họ lưu ý rằng OpenAI có các mối quan hệ đối tác với chính phủ Mỹ và các cơ quan an ninh quốc gia để phát triển các công cụ an ninh mạng, điều này làm nổi bật bản chất quan trọng của các hệ thống AI an toàn.
“An ninh quốc gia và kinh tế là những trách nhiệm quan trọng nhất của Chính phủ Hoa Kỳ, và các hệ thống AI không an toàn hoặc dễ bị tổn thương là không thể chấp nhận,” bức thư viết.
Các nhà lập pháp yêu cầu thông tin chi tiết về một số lĩnh vực chính trước ngày 13 tháng 8 năm 2024. Các lĩnh vực này bao gồm:
- Cam kết của OpenAI về việc dành 20% tài nguyên tính toán cho nghiên cứu an toàn AI.
- Quan điểm của công ty về các thỏa thuận không chỉ trích đối với nhân viên hiện tại và cựu nhân viên.
- Quy trình cho phép nhân viên nêu ra các mối quan ngại về an ninh mạng và an toàn.
- Các giao thức bảo mật để ngăn chặn việc đánh cắp các mô hình AI, nghiên cứu hoặc tài sản trí tuệ.
- Sự tuân thủ của OpenAI đối với Bộ Quy tắc Ứng xử của nhà cung cấp của chính nó liên quan đến chính sách không trả thù và các kênh tố giác.
- Kế hoạch kiểm tra và đánh giá độc lập các hệ thống của OpenAI trước khi phát hành.
- Cam kết cung cấp các mô hình nền tảng trong tương lai cho các cơ quan chính phủ Mỹ để kiểm tra trước khi triển khai.
- Các phương pháp theo dõi sau khi phát hành và những bài học từ các mô hình đã triển khai.
- Kế hoạch công bố các đánh giá tác động hồi tố đối với các mô hình đã triển khai.
- Tài liệu về việc thực hiện các cam kết an toàn và bảo mật tự nguyện với chính quyền Biden-Harris.
Sự giám sát của quốc hội diễn ra trong bối cảnh ngày càng tăng tranh luận về quy định và các biện pháp an toàn đối với AI. Bức thư đề cập đến các cam kết tự nguyện của các công ty AI hàng đầu với Nhà Trắng vào năm ngoái, coi đó là “một bước quan trọng trong việc xây dựng niềm tin” về an toàn và bảo mật AI.
Kamala Harris có thể là tổng thống Mỹ tiếp theo sau cuộc bầu cử vào cuối năm nay. Tại Hội nghị An toàn AI ở Anh năm ngoái, Harris đã nói: “Hãy rõ ràng, có những mối đe dọa bổ sung cũng yêu cầu hành động của chúng ta. Những mối đe dọa hiện đang gây hại, và đối với nhiều người cũng cảm thấy như là vấn đề sinh tử… khi mọi người trên khắp thế giới không thể phân biệt được thực tế và hư cấu vì sự tràn ngập của các huyền thoại và thông tin sai lệch được hỗ trợ bởi AI.”
Chelsea Alves, một cố vấn của UNMiss, nhận xét: “Cách tiếp cận của Kamala Harris đối với AI và quy định công nghệ lớn là kịp thời và quan trọng khi bà bước vào cuộc đua tổng thống. Các chính sách của bà có thể thiết lập những tiêu chuẩn mới về cách chúng ta điều hướng những phức tạp của công nghệ hiện đại và quyền riêng tư cá nhân.”
Phản hồi từ OpenAI đối với những câu hỏi này có thể có những tác động quan trọng đối với tương lai của quản trị AI và mối quan hệ giữa các công ty công nghệ và các cơ quan giám sát của chính phủ.
