Công nghệ học máy và AI có thể ngăn các cuộc 'khẩu chiến' trên mạng

25/05/2018 10:24 GMT+7

TTO - Các nhà nghiên cứu tại Đại học Cornell, Google Jigsaw và Wikimedia đang nghiên cứu ứng dụng công nghệ học máy và AI để ngăn các màn tranh luận trực tuyến trước khi chúng thực sự biến thành một “cuộc chiến”.

Công nghệ học máy và AI có thể ngăn các cuộc khẩu chiến trên mạng - Ảnh 1.

Ảnh: ALBITE MAGAZINE

Theo đó, phần mềm được lập trình sẵn để chỉ ra những điểm tương quan giữa câu chữ với tâm trạng người dùng, từ đó phân tích cuộc đối thoại sẽ kết thúc tốt đẹp hay trở thành một màn tranh cãi.

Sử dụng một phương pháp thống kê được gọi là hồi quy logistic, các nhà nghiên cứu đã tìm ra các tín hiệu hợp tác và bất hợp tác trong lời nói để đi đến dự đoán về cuộc trò chuyện.

Các dấu hiệu cho thấy một màn thảo luận tôn trọng nhau sẽ bao gồm lòng biết ơn (Cảm ơn sự giúp đỡ của bạn), những lời chào hỏi (Ngày hôm nay của bạn thế nào?), sự đồng thuận (Tôi cũng nghĩ vậy)…

Còn ngược lại sẽ là những thắc mắc liên tiếp (Tại sao không đề cập đến điều này? Tại sao không nhìn vào điều đó?), sử dụng các mẫu câu bắt đầu với ngôi thứ hai để trỏ thẳng vào đối phương (Bạn nghĩ sao vậy? Bạn thật không đáng tin cậy!)…

Để thêm vào tất cả các tín hiệu này, các nhà nghiên cứu đã áp dụng thêm các công cụ AI để quét các sắc thái ngôn ngữ của con người, cố gắng đo lường văn bản mang chiều hướng tích cực, trung lập hoặc tiêu cực như thế nào.

Sau khi được thử nghiệm trên trang thảo luận của Wikipedia, phần mềm đã dự đoán đúng trong khoảng 65% - 72% cuộc trò chuyện "có vấn đề".

Justine Zhang, nghiên cứu sinh tiến sĩ tại Đại học Cornell, người đồng hành cùng dự án, cho biết: "Những gã khổng lồ công nghệ như Facebook và Google rất cần công nghệ như thế này để tạo ra một nền tảng trực tuyến an toàn và thân thiện hơn. Thật không có gì thú vị và tốt đẹp hơn khi người ta có thể kiểm soát được lời nói của mình trên mạng."

Tuy nhiên, cũng nhiều ý kiến cho rằng, ý tưởng này đang "can thiệp quá nhiều vào các cuộc thảo luận mang tính xây dựng" và "không phải cuộc cãi vã nào cũng vô bổ". Một số bất đồng vốn dĩ hữu ích để qua đó người ta hiểu nhau hơn. Nếu cứ quá khắt khe, chúng ta sẽ không bao giờ học được những bài học mới.

Zhang cho biết cô và các cộng sự sẽ suy nghĩ thêm về khía cạnh này trước khi hoàn thiện phần mềm và mang đến nhiều trải nghiệm hữu ích hơn cho người dùng.

CAO CƯỜNG
Bình luận (0)
    Xem thêm bình luận
    Bình luận Xem thêm
    Bình luận (0)
    Xem thêm bình luận