Góp ý Tuổi Trẻ Online phiên bản mới Tại đây

Dùng AI để phát hiện các biểu tượng thù địch trên mạng

10/01/2018 10:22 GMT+7

TTO - NEMESIS, dự án AI của Emily Crose, có thể phát hiện các emoji mang tính thù ghét trên Twitter, Facebook và Reddit nhằm chống lại tình trạng kích động bạo lực hay làm tổn thương người khác.

Dùng AI để phát hiện các biểu tượng thù địch trên mạng - Ảnh 1.

Ảnh: YOUTUBE

Dự án NEMESIS của Emily Crose sẽ tìm kiếm những biểu tượng, biểu trưng, hình ảnh thể hiện thái độ thù ghét, cả những emoji không dễ nhận ra ý nghĩa đằng sau như mặt trời mọc, ếch Pepe… trên các mạng xã hội khác nhau như Twitter, Facebook và thậm chí là Reddit.

Mục đích của Crose là giúp các công ty truyền thông xã hội kiểm soát hiệu quả những hận thù như vậy bằng cách sử dụng AI. Cô cũng mong muốn để lộ những người đang tích cực và cố ý sử dụng và chia sẻ nội dung như vậy.

Crose cho biết: "Mục tiêu thực sự là để giáo dục con người trước khi mọi thứ chuyển thành một hệ tư tưởng gây nguy hiểm. Mặt khác, tôi cũng muốn các nền tảng mạng xã hội nên cân nhắc hơn trước khi triển khai các bộ emoji mới của mình. Bởi với họ, đôi khi đó chỉ là một cách thu hút người dùng, nhưng đằng sau nó lại chứa đựng nhiều hệ lụy sâu xa hơn."

Cơ chế hoạt động của NEMESIS khá đơn giản. AI sẽ thu nạp một số hình ảnh đã được xác định là gây thù hằn, xem qua các video để tìm kiếm các ký hiệu trực tuyến này và sẽ báo cáo chặn khi người dùng sử dụng những hình ảnh tương tự như vậy.

Tuy nhiên, Crose cũng thừa nhận NEMESIS vẫn còn nhiều thiếu sót khó khắc phục, đó là làm sao để AI hiểu bối cảnh và tâm lý của con người.

Crose giải thích: "NEMESIS nạp các biểu tượng và hình ảnh một cách thủ công và máy móc. Chẳng hạn như khi thấy "swastika", nó đã báo cáo chặn vì đây được biết đến rộng rãi là một biểu tượng Nazi. Thế nhưng, trong nguồn gốc của văn hóa Hindu, đây lại là biểu tượng tôn giáo của hàng triệu người."

Do đó, Crose vẫn đang khắc phục và tinh chế NEMESIS trước khi được triển khai. Twitter và Facebook có thể sử dụng AI này, nhưng nó vẫn có thể tồn tại độc lập với các nền tảng mạng xã hội.

Crose nói thêm: "Công nghệ này có thể áp dụng trên nhiều nền tảng khác nhau. Có như vậy, tình trạng kích động bạo lực và làm tổn thương người khác sẽ được ngăn chặn. Việc tranh luận trực tuyến cũng trở nên văn minh hơn."

Được biết, Twitter và Facebook đã phải đối mặt với rất nhiều phản ứng tiêu cực sau khi bị phát hiện cho phép các tài khoản troll tồn tại và can thiệp vào các cuộc tranh cử. Các mạng xã hội này cũng đã đồng ý thực hiện các chính sách của mình chặt chẽ hơn để hoạt động tốt hơn trong năm nay.

Các luật sư có nguy cơ bị mất việc bởi trí tuệ nhân tạo

TTO - Một công ty luật ở phía bắc Australia sẽ sử dụng trí tuệ nhân tạo để tư vấn pháp luật nhằm cung cấp cho người dùng những lời khuyên pháp lý rẻ hơn và nhanh hơn thông qua chatbot trong Facebook Messenger.

Dùng trí tuệ nhân tạo phát hiện tranh giả

TTO - Các nhà nghiên cứu đã tạo ra công nghệ trí tuệ nhân tạo (AI) có khả năng phân tích một tác phẩm nghệ thuật tới từng nét vẽ để nhận ra phong cách một họa sĩ.

Facebook tăng ứng dụng trí tuệ nhân tạo phòng ngừa tự tử

TTO - Facebook đang triển khai công nghệ trí tuệ nhân tạo (AI) để “chủ động phát hiện” những ý nghĩ muốn tự tử manh nha, từ đó có biện pháp can thiệp sớm nhất có thể.

Youtube dùng trí tuệ nhân tạo lùng diệt video nội dung xấu

TTO - Nhờ trí tuệ nhân tạo, YouTube gia tăng tốc độ nhận dạng nội dung clip xấu nhanh gấp nhiều lần so với đội ngũ nhân viên kiểm duyệt, và tiếp tục cải thiện.

Dùng trí tuệ nhân tạo chẩn đoán sớm bệnh tim, ung thư

TTO - Các nhà nghiên cứu tại một bệnh viện ở Oxford (Anh) đã phát triển được công nghệ ứng dụng trí tuệ nhân tạo (AI) để chẩn đoán sớm bệnh tim và ung thư phổi.

CAO CƯỜNG
Vì sao bạn ‘không thể cưỡng lại’ cái điện thoại? - Phần 1

TTO - Nghiện công nghệ giờ không còn là giả thuyết hay hiện tượng hy hữu. Chứng nghiện này đã ở mức cần phải báo động bởi những hệ lụy trực tiếp của nó với sức khỏe và hiệu suất công việc.

Khóa tài khoản, thu hồi hơn 24 triệu SIM kích hoạt sẵn

TTO - Đây là kết quả của "chiến dịch" thu hồi SIM kích hoạt sẵn mà Bộ Thông tin và Truyền thông đã triển khai với các nhà mạng trong năm 2017.

Đề nghị Google lập văn phòng đại diện tại Việt Nam

TTO - Bộ trưởng Bộ Thông tin và truyền thông Trương Minh Tuấn đã nêu đề nghị này với bà Ann Lavin, Giám đốc Chính sách công và quan hệ chính phủ, Google khu vực Châu Á – Thái Bình Dương trong buổi tiếp đoàn công tác cấp cao của Google.

Dùng ứng dụng ngừa thai Natural Cycles, 37 phụ nữ mang thai

TTO - Theo thống kê của bệnh viện Södersjukhuset ở Stockholm (Thụy Điển), đã có 37 trong số 668 phụ nữ tìm cách phá thai từ tháng 9 đến tháng 12-2017 do sử dụng ứng dụng Natural Cycles.

Bitcoin lao dốc 25%, còn 10.200 USD/đồng

TTO - Trong các phiên giao dịch đầu ngày hôm nay (17-1) tại châu Á, đồng tiền kỹ thuật số bitcoin đã mất 1/4 giá trị trong bối cảnh nhiều nước tăng biện pháp kiểm soát loại tiền này.

Nghị sĩ Mỹ hối thúc AT&T cắt quan hệ với Huawei

TTO - Các nghị sĩ Mỹ thúc giục nhà mạng lớn số 2 tại Mỹ AT&T cắt quan hệ thương mại với hãng sản xuất điện thoại Trung Quốc vì lý do an ninh quốc gia.

Ngày này 10 năm trước Steve Jobs đã thay đổi tương lai của laptop

TTO - Hôm nay 16-1 (giờ Việt Nam) là ngày mà chiếc MacBook Air đầu tiên được Steve Jobs giới thiệu trước công chúng cách đây 10 năm.