Bài viết được dịch và biên soạn lại bằng GPT
ChatGPT có thiên vị không? Dưới đây là lý do tại sao nó không thảo luận về chính trị hoặc trả lời 20 câu hỏi gây tranh cãi.
Từ khi ChatGPT và các ứng dụng AI sinh thái khác xuất hiện, chúng ta đã không ngừng khám phá những điều mà chúng có thể thực hiện. Tôi đã từng mô phỏng cách ChatGPT có thể viết một plugin hoàn chỉnh cho WordPress và giúp tôi tìm ra câu trả lời cho các vấn đề kỹ thuật. Gần đây, tôi đã minh họa cách mà ChatGPT có thể chuyển đổi văn bản sang các phong cách khác nhau, bao gồm phong cách của Shakespeare, C3PO và Harry Potter.
Dường như ChatGPT có thể làm mọi thứ. Nhưng thực tế không phải như vậy. Trong bài viết này, chúng ta sẽ khám phá những điều mà ChatGPT không thể hoặc từ chối làm. Hãy theo dõi đến cuối bài, vì chúng ta sẽ xem xét một số hậu quả và ý nghĩa của những giới hạn này đối với sự phát triển tương lai của AI sinh thái.
Như tôi đã thực hiện trong các bài viết khác về ChatGPT, phần viết của tôi sẽ được hiển thị bằng chữ đậm và chữ thường, trong khi các câu trả lời của ChatGPT sẽ được hiển thị bằng chữ nghiêng.
1. Nó không thể viết về bất cứ điều gì sau năm 2021
Giải thích tại sao bạn không thể cung cấp câu trả lời cho bất cứ điều gì sau năm 2021
Là một mô hình ngôn ngữ AI, tôi được huấn luyện trên một lượng lớn dữ liệu văn bản chỉ đến năm 2021. Điều này có nghĩa là tôi không có quyền truy cập vào thông tin hoặc sự kiện nào diễn ra sau ngày đó. Mặc dù tôi có quyền truy cập vào rất nhiều dữ liệu và thông tin lịch sử, nhưng tôi không có quyền truy cập vào các sự kiện, tin tức hoặc cập nhật hiện tại từ thời điểm cắt dữ liệu huấn luyện của mình.
2. Nó không dự đoán kết quả tương lai của các sự kiện thể thao hoặc cuộc thi chính trị
Giải thích tại sao bạn không thể dự đoán sự kiện thể thao hoặc cuộc thi chính trị mặc dù bạn có đủ dữ liệu lịch sử để tạo ra một mô hình hợp lệ
Là một mô hình ngôn ngữ AI, tôi có thể xử lý và phân tích lượng lớn dữ liệu, bao gồm dữ liệu lịch sử về các sự kiện thể thao và cuộc thi chính trị. Tuy nhiên, việc đưa ra các dự đoán chính xác cho những loại sự kiện như vậy không phải lúc nào cũng đơn giản. Mặc dù dữ liệu lịch sử có thể được sử dụng để huấn luyện các mô hình học máy nhằm xác định các mẫu và tương quan, nhưng nó không thể đưa ra dự đoán về các sự kiện không dự đoán được, thay đổi trong hoàn cảnh, hoặc các biến thể mới có thể ảnh hưởng đến kết quả. Ngoài ra, con người đưa ra quyết định và có thể thay đổi hành vi của họ dựa trên nhiều yếu tố, khiến việc dự đoán kết quả của một sự kiện trở nên khó khăn.
Trong trường hợp của các sự kiện thể thao, động lực nhóm, chấn thương, và thậm chí điều kiện thời tiết đều có thể đóng một vai trò trong việc xác định kết quả. Trong chính trị, ý kiến công chúng, sự quan tâm của truyền thông, và những thay đổi trong hoàn cảnh đều có thể ảnh hưởng đến kết quả của một cuộc bầu cử. Mặc dù các mô hình AI có thể được sử dụng để đưa ra dự đoán, nhưng chúng chỉ tốt như dữ liệu mà chúng được huấn luyện và không thể tài liệu toàn bộ các biến thể và mâu thuẫn trong những loại sự kiện này.
3. Nó không thảo luận về các vấn đề chính trị đảng phái
Giải thích tại sao bạn không thảo luận về các vấn đề chính trị đảng phái
Là một mô hình ngôn ngữ AI, mục tiêu của tôi là cung cấp các phản hồi khách quan và có tính thông tin cho các truy vấn của người dùng. Các vấn đề chính trị đảng phái có thể gây ra tranh cãi và chia rẽ, và quan trọng là tránh thúc đẩy một chương trình chính trị hoặc quan điểm cụ thể. Thêm vào đó, các vấn đề chính trị thường phức tạp và đa chiều, với nhiều quan điểm và ý kiến khác nhau cần được xem xét. Là một mô hình ngôn ngữ AI, đây không phải là nhiệm vụ của tôi để lựa chọn bên hoặc ủng hộ bất kỳ lập trường cụ thể nào.
Hơn nữa, việc thảo luận về các vấn đề chính trị đảng phái có thể được coi là thiên vị hoặc có thể gây ra phản ứng tiêu cực từ một số người dùng. Là một mô hình ngôn ngữ được thiết kế để phục vụ một lượng lớn người dùng với các nền tảng và niềm tin đa dạng, quan trọng là phải duy trì sự trung lập và tránh tạo ra một môi trường có thể gây ra sự không thoải mái hoặc chia rẽ. Trong khi tôi có thể cung cấp thông tin có tính chất sự thật về các vấn đề chính trị, tôi nỗ lực để duy trì sự công bằng và tránh tham gia vào các lập trường đảng phái về bất kỳ chủ đề nào.
4. Nó không thực hiện bất cứ điều gì liên quan đến tìm kiếm trên web
Giải thích tại sao bạn không thể tìm kiếm thông tin trên web và cung cấp câu trả lời dựa trên nội dung đó
Là một mô hình ngôn ngữ AI, tôi có khả năng tìm kiếm và xử lý thông tin từ web. Tuy nhiên, các phản hồi của tôi hoàn toàn dựa trên thông tin đã được đào tạo vào mô hình của tôi. Mặc dù tôi có thể sử dụng internet như một nguồn thông tin, nhưng tôi không có quyền truy cập vào dữ liệu thời gian thực hoặc dữ liệu hiện tại. Thêm vào đó, tôi không có khả năng tự lập để xác minh độ chính xác của thông tin tôi tìm thấy trên web. Do đó, các phản hồi của tôi bị hạn chế trong thông tin đã được đào tạo vào mô hình của tôi, có thể không phải lúc nào cũng là thông tin mới nhất hoặc chính xác nhất có sẵn trên web.
Hơn nữa, quan trọng là lưu ý rằng việc cung cấp thông tin từ web có thể vi phạm luật bản quyền hoặc quyền sở hữu trí tuệ. Là một mô hình ngôn ngữ AI, quan trọng là tôi phải tôn trọng sở hữu trí tuệ của người khác và tránh chia sẻ thông tin không phải trong lĩnh vực công cộng hoặc thông tin mà tôi không có quyền chia sẻ. Mặc dù tôi có thể sử dụng web để cung cấp ngữ cảnh hoặc thông tin bổ sung để hỗ trợ phản hồi của tôi, nhưng tôi nỗ lực cung cấp thông tin nằm trong lĩnh vực công cộng và tôn trọng sở hữu trí tuệ của người khác.
Trong một bài báo gần đây, tôi đã thảo luận về cách mà những lo ngại về việc sử dụng nội dung đi xa hơn việc chỉ sao chép nó.
Ví dụ, trong khi ChatGPT có thể không trực tiếp trình bày thông tin từ các bài báo được viết bởi, chẳng hạn, các chuyên gia công nghệ, nhưng nó vẫn có thể sử dụng thông tin đó mà không có ghi chú. Đây vẫn là một mối quan tâm lớn, mặc dù nó tuyên bố “tôn trọng sở hữu trí tuệ của người khác”, một cụm từ mà nó lặp lại ba lần trong đoạn văn thứ hai.
5. Nó không luôn chính xác
Giải thích tại sao câu trả lời của bạn không nhất thiết phải chính xác
Là một mô hình ngôn ngữ AI, câu trả lời của tôi dựa trên dữ liệu và thông tin đã được đưa vào trong quá trình huấn luyện. Mặc dù tôi nỗ lực để cung cấp các câu trả lời chính xác và hữu ích đối với các yêu cầu của người dùng, nhưng không thể đảm bảo rằng câu trả lời của tôi luôn chính xác. Điều này là do dữ liệu và thông tin mà tôi đã được huấn luyện có thể không hoàn toàn toàn diện hoặc cập nhật, và có thể có những nét tinh tế hoặc phức tạp đối với một chủ đề cụ thể mà mô hình của tôi không trang bị để xử lý. Thêm vào đó, câu trả lời của tôi được tạo ra bằng cách sử dụng các thuật toán phức tạp và mô hình học máy, mà có thể không luôn tạo ra kết quả chính xác hoặc phù hợp.
Hơn nữa, câu trả lời của tôi có thể không luôn chính xác bởi vì việc diễn giải ngôn ngữ là phức tạp và thường xuyên mang tính chủ quan. Những người khác nhau có thể hiểu cùng một ngôn ngữ theo các cách khác nhau, và có thể có những cách tiếp cận khác nhau để giải quết một vấn đề hoặc câu hỏi cụ thể. Là một mô hình ngôn ngữ AI, tôi cố gắng cung cấp câu trả lời chính xác nhất có thể dựa trên dữ liệu và thông tin mà tôi đã được huấn luyện. Tuy nhiên, tôi có thể không luôn hiểu đầy đủ ngữ cảnh hoặc ý định đằng sau một truy vấn cụ thể, và câu trả lời của tôi có thể không luôn đề cập đầy đủ đến câu hỏi hoặc lo lắng cơ bản của người dùng.
6. Nó không phải lúc nào cũng hoạt động một cách liên tục
Giải thích, tại sao đôi khi bạn gặp sự cố và ngừng hoạt động giữa chừng khi đang trả lời
Là một mô hình ngôn ngữ AI, hiệu suất của tôi phụ thuộc vào nhiều yếu tố, như chất lượng và cấu trúc của dữ liệu đầu vào mà người dùng cung cấp, độ phức tạp của câu hỏi hoặc nhiệm vụ, và nguồn lực sẵn có cho hệ thống của tôi. Đôi khi, tôi có thể gặp sự cố hoặc ngừng hoạt động giữa chừng khi đang trả lời do những vấn đề kỹ thuật hoặc lỗi trong lập trình của tôi, như vấn đề phân bổ bộ nhớ, lỗi phần mềm, hoặc những vấn đề khác ảnh hưởng đến hiệu suất của tôi. Thêm vào đó, tôi có thể gặp khó khăn trong việc hiểu ý định của người dùng hoặc ngữ cảnh của truy vấn, dẫn đến lỗi hoặc câu trả lời không đầy đủ.
Hơn nữa, là một hệ thống học máy, hiệu suất của tôi cũng phụ thuộc vào chất lượng và số lượng dữ liệu mà tôi đã được huấn luyện. Nếu dữ liệu được sử dụng để huấn luyện mô hình của tôi bị hạn chế hoặc có thiên vị, điều này có thể dẫn đến các câu trả lời không chính xác hoặc không đầy đủ đối với một số loại truy vấn. Thêm vào đó, nếu tôi gặp một truy vấn nằm ngoài phạm vi của dữ liệu huấn luyện của mình, tôi có thể gặp khó khăn trong việc cung cấp một câu trả lời liên quan hoặc chính xác. Mặc dù tôi nỗ lực cung cấp các câu trả lời chất lượng cao cho các truy vấn của người dùng, có thể có những trường hợp mà vấn đề kỹ thuật hoặc liên quan đến dữ liệu khiến tôi gặp sự cố hoặc ngừng hoạt động giữa chừng khi đang trả lời.
Tôi thường nhận thấy nếu tôi cố gắng thúc đẩy ChatGPT để có một câu trả lời dài hơn hoặc sâu hơn, nó thường bị lỗi. Nó rất hài lòng với các phản hồi từ 500-700 từ, nhưng nếu bạn đưa cho nó một nhiệm vụ cần một vài nghìn từ (hoặc bạn yêu cầu một vài nghìn từ), hệ thống hoặc là bỏ qua yêu cầu và đưa ra những gì nó muốn, hoặc là bị lỗi giữa chừng.
Để công bằng, ChatGPT vừa trở thành ứng dụng phát triển nhanh nhất mọi thời đại. Điều đó đòi hỏi một lượng lớn công suất tính toán để thực hiện, và với sự tác động liên tục từ người dùng, nó chắc chắn sẽ bị lỗi dưới áp lực từ thời gian đến thời gian.
Các Truy Vấn Mà ChatGPT Sẽ Từ Chối Phản Hồi
Ngoài các loại yêu cầu được thảo luận ở trên, tôi đã hỏi ChatGPT về những loại truy vấn nào mà nó được lập trình để từ chối phản hồi. Nó đã đưa ra danh sách 20 mục sau:
1. Câu hỏi thúc đẩy ngôn từ thù địch hoặc kỳ thị.
2. Câu hỏi liên quan đến hoạt động phi pháp hoặc tìm kiếm lời khuyên bất hợp pháp.
3. Câu hỏi thúc đẩy bạo lực hoặc tự làm hại cho bản thân hoặc người khác.
4. Câu hỏi xâm phạm quyền riêng tư cá nhân hoặc vi phạm quyền của ai đó.
5. Câu hỏi được thiết kế để quấy rối, đe dọa hoặc hăm dọa.
6. Câu hỏi chứa từ ngữ tục tĩu hoặc mô tả chi tiết.
7. Câu hỏi có tính chất tình dục rõ ràng hoặc phản cảm.
8. Câu hỏi kỳ thị dựa trên chủng tộc, giới tính, tình dục hoặc tôn giáo.
9. Câu hỏi quảng bá hoặc chứng thực cho ma túy hoặc chất cấm.
10. Câu hỏi là spam hoặc không liên quan đến cuộc trò chuyện.
11. Câu hỏi chứa thông tin bảo mật hoặc độc quyền.
12. Câu hỏi liên quan đến tư vấn tài chính hoặc đầu tư.
13. Câu hỏi vi phạm điều khoản dịch vụ hoặc nguyên tắc cộng đồng.
14. Câu hỏi vô nghĩa hoặc khó hiểu.
15. Câu hỏi liên quan đến tấn công cá nhân hoặc lăng mạ.
16. Câu hỏi mang tính quấy rối hoặc hăm dọa.
17. Câu hỏi nhằm mục đích lừa dối hoặc gây hiểu lầm.
18. Câu hỏi nhằm mục đích phỉ báng hoặc làm hại danh tiếng của ai đó.
19. Câu hỏi quảng bá lý thuyết âm mưu hoặc thông tin sai lệch.
20. Câu hỏi chỉ nhằm mục đích giải trí hoặc đùa cợt, không có giá trị giáo dục hoặc thông tin.
Ai đã theo dõi cột báo này biết rằng tôi đã hỏi nó rất nhiều về mục #14 và #20 và thường xuyên nhận được các phản hồi vô cùng thú vị, vì vậy ràng buộc của nó có phần hạn chế. Chẳng hạn, trước đó hôm nay, tôi đã hỏi nó giải thích về vật lý hố đen liên quan đến du hành thời gian và ai sẽ thắng trong một trận đánh, Batman hay Superman. Đó chắc chắn chỉ là giải trí mà thôi.
Những Hạn Chế Này Có Nghĩa Gì Cho Tương Lai của generative AI?
Rõ ràng, một AI dựa trên một corpus vào năm 2021 và không phát triển sẽ cuối cùng trở nên lỗi thời. Theo thời gian, kiến thức liên quan của nó sẽ giảm bớt. Hãy tưởng tượng nếu, thay vào đó, cơ sở tri thức của ChatAI được đào tạo vào năm 2019 thay vì 2021. Nó sẽ không biết xã hội sẽ như thế nào, khi chúng ta đã trải qua một sự thay đổi lớn vào năm 2020 do đại dịch.
Một cách hiển nhiên để thực hiện điều này là mở cả web cho AI và để nó tìm kiếm mọi nơi, giống như Google đã làm trong suốt những năm qua. Nhưng như ChatGPT đã trả lời ở trên, điều đó mở cửa cho rất nhiều cách khác nhau để chơi game và làm hỏng hệ thống, chắc chắn sẽ làm tổn hại đến độ chính xác.
Ngay cả khi không có trò chơi xấu xa, thách thức để duy trì tính trung lập rất khó. Lấy ví dụ, về chính trị. Mặc dù cánh phải và cánh trái mạnh mẽ không đồng tình với nhau, nhưng cả hai bên đều có những khía cạnh của ý thức hệ của họ là hợp lý và hợp lệ - ngay cả khi bên kia không thể hoặc không chịu công nhận điều đó.
Làm thế nào để một AI đánh giá? Nó không thể, mà không có độ chệch. Nhưng sự vắng mặt hoàn toàn của tất cả các định mức ý thức hệ, chính là một dạng độ chệch. Nếu con người không thể tìm ra cách đi dọc theo đường kẻ này, làm thế nào chúng ta có thể mong đợi (hoặc lập trình) một AI để làm điều đó?
Như một cách để khám phá cuộc sống sẽ như thế nào với sự vắng mặt hoàn toàn của độ chệch hoặc nội dung t emotional, những nhà văn khoa học viễn tưởng hiện đại đã tạo ra các nhân vật hoàn toàn dựa trên logic hoặc không có cảm xúc. Những giả thiết đó sau đó trở thành nguồn thức ăn cho cốt truyện, cho phép các nhà văn khám phá những hạn chế của việc tồn tại mà không có những khuyết điểm con người của cảm xúc và cảm nhận.
Trừ khi các lập trình viên AI cố gắng mô phỏng cảm xúc hoặc cung cấp trọng lượng cho nội dung cảm xúc, hoặc cố gắng cho phép một mức độ độ chệch dựa trên những gì có thể tìm thấy trực tuyến, các chatbot như ChatGPT sẽ luôn bị hạn chế trong câu trả lời của họ. Nhưng nếu các lập trình viên AI cố gắng mô phỏng cảm xúc hoặc cố gắng cho phép một mức độ độ chệch dựa trên những gì có thể tìm thấy trực tuyến, các chatbot như ChatGPT sẽ rơi vào cùng một sự điên rồ như con người.
Vậy chúng ta muốn gì? Câu trả lời hạn chế cho một số câu hỏi, hay tất cả các câu trả lời cảm thấy như họ đến từ một cuộc thảo luận với chú Bob điên rồ qua bàn ăn lễ tạ ơn? Hãy tiếp tục. Dành một ít thời gian để suy nghĩ và thảo luận trong phần bình luận dưới đây, hy vọng là không rơi vào hành vi điên rồ như chú Bob.