Dùng AI để phát hiện các biểu tượng thù địch trên mạng

10/01/2018 10:22 GMT+7

TTO - NEMESIS, dự án AI của Emily Crose, có thể phát hiện các emoji mang tính thù ghét trên Twitter, Facebook và Reddit nhằm chống lại tình trạng kích động bạo lực hay làm tổn thương người khác.

Dùng AI để phát hiện các biểu tượng thù địch trên mạng - Ảnh 1.

Ảnh: YOUTUBE

Dự án NEMESIS của Emily Crose sẽ tìm kiếm những biểu tượng, biểu trưng, hình ảnh thể hiện thái độ thù ghét, cả những emoji không dễ nhận ra ý nghĩa đằng sau như mặt trời mọc, ếch Pepe… trên các mạng xã hội khác nhau như Twitter, Facebook và thậm chí là Reddit.

Mục đích của Crose là giúp các công ty truyền thông xã hội kiểm soát hiệu quả những hận thù như vậy bằng cách sử dụng AI. Cô cũng mong muốn để lộ những người đang tích cực và cố ý sử dụng và chia sẻ nội dung như vậy.

Crose cho biết: "Mục tiêu thực sự là để giáo dục con người trước khi mọi thứ chuyển thành một hệ tư tưởng gây nguy hiểm. Mặt khác, tôi cũng muốn các nền tảng mạng xã hội nên cân nhắc hơn trước khi triển khai các bộ emoji mới của mình. Bởi với họ, đôi khi đó chỉ là một cách thu hút người dùng, nhưng đằng sau nó lại chứa đựng nhiều hệ lụy sâu xa hơn."

Cơ chế hoạt động của NEMESIS khá đơn giản. AI sẽ thu nạp một số hình ảnh đã được xác định là gây thù hằn, xem qua các video để tìm kiếm các ký hiệu trực tuyến này và sẽ báo cáo chặn khi người dùng sử dụng những hình ảnh tương tự như vậy.

Tuy nhiên, Crose cũng thừa nhận NEMESIS vẫn còn nhiều thiếu sót khó khắc phục, đó là làm sao để AI hiểu bối cảnh và tâm lý của con người.

Crose giải thích: "NEMESIS nạp các biểu tượng và hình ảnh một cách thủ công và máy móc. Chẳng hạn như khi thấy "swastika", nó đã báo cáo chặn vì đây được biết đến rộng rãi là một biểu tượng Nazi. Thế nhưng, trong nguồn gốc của văn hóa Hindu, đây lại là biểu tượng tôn giáo của hàng triệu người."

Do đó, Crose vẫn đang khắc phục và tinh chế NEMESIS trước khi được triển khai. Twitter và Facebook có thể sử dụng AI này, nhưng nó vẫn có thể tồn tại độc lập với các nền tảng mạng xã hội.

Crose nói thêm: "Công nghệ này có thể áp dụng trên nhiều nền tảng khác nhau. Có như vậy, tình trạng kích động bạo lực và làm tổn thương người khác sẽ được ngăn chặn. Việc tranh luận trực tuyến cũng trở nên văn minh hơn."

Được biết, Twitter và Facebook đã phải đối mặt với rất nhiều phản ứng tiêu cực sau khi bị phát hiện cho phép các tài khoản troll tồn tại và can thiệp vào các cuộc tranh cử. Các mạng xã hội này cũng đã đồng ý thực hiện các chính sách của mình chặt chẽ hơn để hoạt động tốt hơn trong năm nay.

Các luật sư có nguy cơ bị mất việc bởi trí tuệ nhân tạo

TTO - Một công ty luật ở phía bắc Australia sẽ sử dụng trí tuệ nhân tạo để tư vấn pháp luật nhằm cung cấp cho người dùng những lời khuyên pháp lý rẻ hơn và nhanh hơn thông qua chatbot trong Facebook Messenger.

Dùng trí tuệ nhân tạo phát hiện tranh giả

TTO - Các nhà nghiên cứu đã tạo ra công nghệ trí tuệ nhân tạo (AI) có khả năng phân tích một tác phẩm nghệ thuật tới từng nét vẽ để nhận ra phong cách một họa sĩ.

Facebook tăng ứng dụng trí tuệ nhân tạo phòng ngừa tự tử

TTO - Facebook đang triển khai công nghệ trí tuệ nhân tạo (AI) để “chủ động phát hiện” những ý nghĩ muốn tự tử manh nha, từ đó có biện pháp can thiệp sớm nhất có thể.

Youtube dùng trí tuệ nhân tạo lùng diệt video nội dung xấu

TTO - Nhờ trí tuệ nhân tạo, YouTube gia tăng tốc độ nhận dạng nội dung clip xấu nhanh gấp nhiều lần so với đội ngũ nhân viên kiểm duyệt, và tiếp tục cải thiện.

Dùng trí tuệ nhân tạo chẩn đoán sớm bệnh tim, ung thư

TTO - Các nhà nghiên cứu tại một bệnh viện ở Oxford (Anh) đã phát triển được công nghệ ứng dụng trí tuệ nhân tạo (AI) để chẩn đoán sớm bệnh tim và ung thư phổi.

CAO CƯỜNG
Cách vệ sinh thiết bị công nghệ an toàn nhất

TTO - Một nghiên cứu gần đây cho thấy 81% các thiết bị công nghệ đều dính vi khuẩn có hại, vậy phải làm sao để vệ sinh chúng một cách an toàn nhất?

Khám phá những tiện ích công nghệ miễn phí (phần tiếp)

TTO - Không phải chỉ những phần mềm mất tiền mới có những tính năng tiện ích và hiệu quả. Nếu chịu khó tìm hiểu, bạn sẽ thấy có nhiều tiện ích miễn phí rất tốt chẳng kém gì các phiên bản có phí.

Các rủi ro an ninh mạng lớn nhất đều xuất phát từ Mỹ

TTO - Theo chỉ số phơi nhiễm quốc gia được Rapid7 mới công bố, Mỹ đứng đầu danh sách các quốc gia dễ bị tấn công mạng nhất, tiếp theo là Trung Quốc, Hàn Quốc và Anh.

Chuyển 11 số thành 10 số, thuê bao di động lại khổ

TTO - Theo kế hoạch của Bộ Thông tin và truyền thông, từ ngày 15-9-2018, số điện thoại di động đầu 11 số sẽ bắt đầu được chuyển thành 10 số. 60 triệu thuê bao sẽ bị ảnh hưởng.

World Cup, tuyển sinh lớp 10... được tìm nhiều nhất

TTO - Không chỉ quan tâm đến môn thể thao vua, người Việt cũng rất quan tâm đến các sự kiện chính trị trong nước tuần này.

Khám phá những tiện ích công nghệ miễn phí

TTO - Bất kể việc có quá nhiều loại phí bạn phải chi trả cho việc trang bị phần cứng và dịch vụ thuê bao, song vẫn còn nhiều tiện ích công nghệ khác miễn phí sẵn sàng phục vụ bạn.

iPhone 3GS ‘mới tinh’ mở bán lại tại Hàn Quốc

TTO - Trong một động thái “bất thường”, một nhà mạng Hàn Quốc vừa công bố kế hoạch bán lại những chiếc điện thoại iPhone 3GS còn mới, nguyên đai nguyên kiện như khi vừa xuất xưởng.