Thứ 7, ngày 20 tháng 10 năm 2018

Dùng AI để phát hiện các biểu tượng thù địch trên mạng

10/01/2018 10:22 GMT+7

TTO - NEMESIS, dự án AI của Emily Crose, có thể phát hiện các emoji mang tính thù ghét trên Twitter, Facebook và Reddit nhằm chống lại tình trạng kích động bạo lực hay làm tổn thương người khác.

Dùng AI để phát hiện các biểu tượng thù địch trên mạng - Ảnh 1.

Ảnh: YOUTUBE

Dự án NEMESIS của Emily Crose sẽ tìm kiếm những biểu tượng, biểu trưng, hình ảnh thể hiện thái độ thù ghét, cả những emoji không dễ nhận ra ý nghĩa đằng sau như mặt trời mọc, ếch Pepe… trên các mạng xã hội khác nhau như Twitter, Facebook và thậm chí là Reddit.

Mục đích của Crose là giúp các công ty truyền thông xã hội kiểm soát hiệu quả những hận thù như vậy bằng cách sử dụng AI. Cô cũng mong muốn để lộ những người đang tích cực và cố ý sử dụng và chia sẻ nội dung như vậy.

Crose cho biết: "Mục tiêu thực sự là để giáo dục con người trước khi mọi thứ chuyển thành một hệ tư tưởng gây nguy hiểm. Mặt khác, tôi cũng muốn các nền tảng mạng xã hội nên cân nhắc hơn trước khi triển khai các bộ emoji mới của mình. Bởi với họ, đôi khi đó chỉ là một cách thu hút người dùng, nhưng đằng sau nó lại chứa đựng nhiều hệ lụy sâu xa hơn."

Cơ chế hoạt động của NEMESIS khá đơn giản. AI sẽ thu nạp một số hình ảnh đã được xác định là gây thù hằn, xem qua các video để tìm kiếm các ký hiệu trực tuyến này và sẽ báo cáo chặn khi người dùng sử dụng những hình ảnh tương tự như vậy.

Tuy nhiên, Crose cũng thừa nhận NEMESIS vẫn còn nhiều thiếu sót khó khắc phục, đó là làm sao để AI hiểu bối cảnh và tâm lý của con người.

Crose giải thích: "NEMESIS nạp các biểu tượng và hình ảnh một cách thủ công và máy móc. Chẳng hạn như khi thấy "swastika", nó đã báo cáo chặn vì đây được biết đến rộng rãi là một biểu tượng Nazi. Thế nhưng, trong nguồn gốc của văn hóa Hindu, đây lại là biểu tượng tôn giáo của hàng triệu người."

Do đó, Crose vẫn đang khắc phục và tinh chế NEMESIS trước khi được triển khai. Twitter và Facebook có thể sử dụng AI này, nhưng nó vẫn có thể tồn tại độc lập với các nền tảng mạng xã hội.

Crose nói thêm: "Công nghệ này có thể áp dụng trên nhiều nền tảng khác nhau. Có như vậy, tình trạng kích động bạo lực và làm tổn thương người khác sẽ được ngăn chặn. Việc tranh luận trực tuyến cũng trở nên văn minh hơn."

Được biết, Twitter và Facebook đã phải đối mặt với rất nhiều phản ứng tiêu cực sau khi bị phát hiện cho phép các tài khoản troll tồn tại và can thiệp vào các cuộc tranh cử. Các mạng xã hội này cũng đã đồng ý thực hiện các chính sách của mình chặt chẽ hơn để hoạt động tốt hơn trong năm nay.

CAO CƯỜNG

TIN LIÊN QUAN

Bình luận (0)
    Xem thêm bình luận Ý kiến của bạn
    Đăng nhập

    Bạn sẽ nhận được các tin tức nổi bật trên Tuổi Trẻ, nếu không muốn bạn có thể tắt bất cứ lúc nào

    Doanh nghiệp
    Tổng giám đốc Vinamilk được vinh danh 'Thành tựu trọn đời'
    Trong khuôn khổ Women's Summit 2018 diễn ra ngày 18-10 tại TP.HCM, Forbes Việt Nam công bố giải thưởng "Thành tựu trọn đời" vinh danh bà Mai Kiều Liên - tổng giám đốc công ty sữa số 1 Việt Nam Vinamilk.
    Công nghệ
    Thủ phạm tấn công mạng Facebook là nhóm gửi thư rác
    TTO - Kết luận điều tra ban đầu của Facebook nhận thấy những kẻ đứng sau vụ tấn công mạng làm rò rỉ dữ liệu của 30 triệu tài khoản là những đối tượng gửi thư rác trên mạng xã hội.
    Nhà đất
    Chung cư mới đẩy nguồn cung mặt bằng bán lẻ tăng mạnh
    TTO - Quan sát thực tế thời gian qua, hầu hết các dự án lớn, kể cả chung cư, đều bố trí các tầng dưới phục vụ cho thuê buôn bán thời trang, hàng ăn uống và tạp hóa, siêu thị nhỏ.
    Bình luận Xem thêm
    Bình luận (0)
    Xem thêm bình luận