Công cụ AI mới của Bumble nhận diện và chặn các tài khoản lừa đảo, hồ sơ giả mạo

Bumble thông báo hôm nay rằng họ đang ra mắt một tính năng mới được hỗ trợ bởi AI, được thiết kế để giúp nhận diện spam, lừa đảo và hồ sơ giả mạo. Công cụ mới, có tên là Deception Detector, nhằm mục đích hành động với nội dung độc hại trước khi người dùng Bumble bao giờ gặp phải nó.

Trong quá trình thử nghiệm, Bumble phát hiện ra rằng công cụ có thể tự động chặn 95% các tài khoản được xác định là spam hoặc tài khoản lừa đảo. Trong hai tháng đầu tiên thử nghiệm công cụ, Bumble thấy báo cáo của người dùng về spam, lừa đảo và hồ sơ giả mạo giảm 45%. Deception Detector hoạt động cùng với đội ngũ kiểm duyệt con người của Bumble.

Việc ra mắt tính năng mới này diễn ra khi nghiên cứu nội bộ của Bumble cho thấy hồ sơ giả mạo và rủi ro của các cuộc lừa đảo là những lo ngại hàng đầu của người dùng khi hẹn hò trực tuyến, công ty cho biết. Nghiên cứu cũng cho thấy 46% phụ nữ bày tỏ lo lắng về tính xác thực của các trận đấu trực tuyến trên các ứng dụng hẹn hò.

“Bumble Inc. được thành lập với mục tiêu xây dựng mối quan hệ công bằng và trao quyền cho phụ nữ thực hiện bước đi đầu tiên, và Deception Detector là sự đổi mới mới nhất của chúng tôi như một phần của cam kết liên tục với cộng đồng của chúng tôi để giúp đảm bảo rằng các kết nối tạo ra trên ứng dụng của chúng tôi là chân thực,” CEO của Bumble, Lidiane Jones, cho biết trong một tuyên bố. “Với sự tập trung vào trải nghiệm của phụ nữ trực tuyến, chúng tôi nhận ra rằng trong kỷ nguyên AI, sự tin tưởng là quan trọng hơn bao giờ hết.”

Ủy ban Thương mại Liên bang (FTC) báo cáo năm ngoái rằng các cuộc lừa đảo tình cảm đã khiến nạn nhân mất 1.3 tỷ đô la vào năm 2022, trong khi tổn thất trung bình được báo cáo là 4,400 đô la. Báo cáo cho biết, mặc dù các kẻ lừa đảo tình cảm thường sử dụng các ứng dụng hẹn hò để nhắm mục tiêu vào người dùng, nhưng phổ biến hơn là mọi người bị nhắm mục tiêu qua tin nhắn trực tiếp trên các nền tảng mạng xã hội. Chẳng hạn, 40% người mất tiền do lừa đảo tình cảm cho biết liên hệ bắt đầu trên mạng xã hội, trong khi 19% nói rằng nó bắt đầu trên một trang web hoặc ứng dụng.

Công cụ mới là tính năng AI mới nhất của Bumble được thiết kế để làm cho ứng dụng an

toàn hơn. Vào năm 2019, Bumble đã giới thiệu tính năng “Private Detector” tự động làm mờ hình ảnh khỏa thân và gắn nhãn chúng như vậy trong các cuộc trò chuyện, cho phép người dùng xem hình ảnh hoặc báo cáo người dùng.

Bumble cũng đang tận dụng AI trong Bumble For Friends, ứng dụng dành riêng của công ty cho việc tìm bạn bè. Ứng dụng gần đây đã ra mắt các gợi ý mở đầu được hỗ trợ bởi AI giúp người dùng viết và gửi tin nhắn đầu tiên dựa trên hồ sơ của người khác. Bạn có thể chỉnh sửa câu hỏi hoặc yêu cầu một gợi ý khác, nhưng bạn chỉ có thể sử dụng một lời mở đầu được tạo bởi AI cho mỗi cuộc trò chuyện.

Đáng chú ý là Private Detector và Deception Detector đều được sử dụng trong cả Bumble và Bumble for Friends.

cre: techcrunch

2 Likes