OpenAI hợp tác với Common Sense Media để cộng tác về các nguyên tắc AI

OpenAI hy vọng sẽ giành được sự tin tưởng của các bậc phụ huynh - và các nhà hoạch định chính sách - bằng cách hợp tác với các tổ chức làm việc để giảm thiểu hại hậu quả của công nghệ và truyền thông đối với trẻ em, trẻ vị thành niên và thanh thiếu niên.

Điển hình, OpenAI hôm nay thông báo về sự hợp tác với Common Sense Media, tổ chức phi lợi nhuận chuyên đánh giá và xếp hạng tính phù hợp của các phương tiện truyền thông và công nghệ cho trẻ em, để cùng nhau xây dựng hướng dẫn về AI và tài liệu giáo dục cho phụ huynh, giáo viên và thanh thiếu niên.

Là một phần của sự hợp tác, OpenAI sẽ làm việc với Common Sense Media để tạo ra các GPT “thân thiện với gia đình” - các ứng dụng chatbot được cung cấp bởi các mô hình GenAI của OpenAI - trong GPT Store, thị trường GPT của OpenAI, dựa trên các tiêu chuẩn đánh giá và đánh giá của Common Sense, CEO của OpenAI Sam Altman cho biết.

“AI mang lại lợi ích không thể tin được cho các gia đình và thanh thiếu niên, và sự hợp tác của chúng tôi với Common Sense sẽ càng tăng cường công việc an toàn của chúng tôi, đảm bảo rằng các gia đình và thanh thiếu niên có thể sử dụng công cụ của chúng tôi với sự tự tin,” Altman thêm trong một tuyên bố đã chuẩn bị sẵn.

Việc ra mắt sự hợp tác diễn ra sau khi OpenAI cho biết họ sẽ tham gia vào khuôn khổ mới của Common Sense, được phát động vào tháng 9, cho việc đánh giá và xem xét nhằm đánh giá sự an toàn, minh bạch, sử dụng đạo đức và tác động của các sản phẩm AI. Khuôn khổ của Common Sense nhằm tạo ra một “nhãn dinh dưỡng” cho các ứng dụng được hỗ trợ bởi AI, theo James Steyer, đồng sáng lập và CEO của Common Sense, nhằm làm sáng tỏ các bối cảnh mà các ứng dụng được sử dụng và nêu bật các cơ hội và hại tiềm ẩn dựa trên một bộ nguyên tắc “common sense”.

Trong một thông cáo báo chí, Steyer ám chỉ rằng các bậc phụ huynh ngày nay nói chung ít biết về các công cụ GenAI - ví dụ, chatbot AI phổ biến của OpenAI, ChatGPT - so với các thế hệ trẻ. Một cuộc thăm dò do Common Sense Media ủy quyền vào cuối năm ngoái cho thấy 58% học sinh từ 12 đến 18 tuổi đã sử dụng ChatGPT so với 30% phụ huynh có con em trong độ tuổi đi học.

“Cùng nhau, Common Sense và OpenAI sẽ làm việc để đảm bảo rằng AI có tác động tích cực đối với tất cả các thanh thiếu niên và gia đình,” Steyer nói trong một tuyên bố qua email. “Các hướng dẫn và cách chọn lọc của chúng tôi sẽ được thiết kế để giáo dục các gia đình và giáo viên về việc sử dụng [công cụ của OpenAI như] ChatGPT một cách an toàn, có trách nhiệm, để chúng ta có thể cùng nhau tránh được bất kỳ hậu quả không mong muốn nào của công nghệ mới nổi này.”

OpenAI đang chịu áp lực từ các cơ quan quản lý để chứng minh rằng các ứng dụng được hỗ trợ bởi GenAI của mình, bao gồm ChatGPT, là lợi ích tổng thể cho xã hội - không phải là một tác động tiêu cực. Chỉ mới mùa hè năm ngoái, Ủy ban Thương mại Liên bang Hoa Kỳ đã mở một cuộc điều tra về OpenAI xem liệu ChatGPT có gây hại cho người tiêu dùng thông qua việc thu thập dữ liệu và công bố các tuyên bố sai sự thật về cá nhân hay không. Các cơ quan quản lý dữ liệu châu Âu cũng đã bày tỏ lo ngại về cách xử lý thông tin cá nhân của OpenAI.

Công cụ của OpenAI, như tất cả các công cụ GenAI, thường tự tin tạo ra những điều không chính xác và sai lệch về sự thật cơ bản. Và chúng có độ thiên vị - phản ánh dữ liệu đã được sử dụng để huấn luyện chúng.

Trẻ em và thanh thiếu niên, dù biết hay không biết về hạn chế của các công cụ, đang ngày càng tìm đến chúng để giúp đỡ không chỉ với bài tập về nhà mà còn với các vấn đề cá nhân. Theo một cuộc thăm dò từ Trung tâm Công nghệ và Dân chủ, 29% trẻ em báo cáo đã sử dụng ChatGPT để xử lý lo lắng hoặc vấn đề sức khỏe tinh thần, 22% cho các vấn đề với bạn bè và 16% cho xung đột gia đình.

cre: techcrunch

1 Like