Youtube dùng trí tuệ nhân tạo lùng diệt video nội dung xấu

06/12/2017 17:12 GMT+7

TTO - Nhờ trí tuệ nhân tạo, YouTube gia tăng tốc độ nhận dạng nội dung clip xấu nhanh gấp nhiều lần so với đội ngũ nhân viên kiểm duyệt, và tiếp tục cải thiện.

Youtube dùng trí tuệ nhân tạo lùng diệt video nội dung xấu - Ảnh 1.

Bà Susan Wojcicki, Giám đốc điều hành (CEO) YouTube - Ảnh: FORTUNE

Theo bà Susan Wojcicki, Giám đốc điều hành YouTube, mạng chia sẻ video YouTube mang đặc tính cởi mở, chào đón các nhà sáng tạo nội dung, song hành cùng người dùng và các nhà quảng cáo. Tuy vậy, tính cởi mở của YouTube đã bị lợi dụng bởi một số kẻ xấu để gây hiểu nhầm, thao túng, sách nhiễu hay thậm chí gây tổn hại.

Trong xu hướng tìm giải pháp cho những trường hợp các nhà quảng cáo phản ánh quảng cáo của khách hàng xuất hiện ở một số video mang nội dung không phù hợp, YouTube đã kết hợp cả giải pháp con người lẫn trí tuệ nhân tạo để gia tăng hiệu quả.

Về phía con người, theo bà Susan Wojcicki, YouTube sẽ tăng cường đội ngũ kiểm duyệt viên lên hơn 10.000 người trong năm 2018. Đội ngũ này sẽ phối hợp cùng trí tuệ nhân tạo để lọc các clip có nội dung xấu.

Cụ thể, trong rất nhiều ngữ cảnh, trí tuệ nhân tạo chỉ nhận dạng và đánh dấu bằng cách gắn cờ vào các clip mà nó tình nghi là mang nội dung xấu, khi đó, con người sẽ phán xét và qua đó, trí tuệ nhân tạo sẽ được học cách xử lý để thực hiện cho lần sau. Máy học (machine learning) được áp dụng triệt để nhằm cho phép trí tuệ nhân tạo nhận diện được nội dung xấu trong clip ở nhiều tình huống như kích động, bạo lực hay gây tổn hại liên quan trẻ em.

Từ tháng 6-2017, YouTube bắt đầu thử nghiệm áp dụng 'Máy học' (machine learning) trợ giúp đội ngũ kiểm duyệt, và thu về kết quả khả quan. Theo bà Susan, YouTube đã xóa hơn 150.000 video có liên quan tới chủ nghĩa cực đoan bạo lực. Trí tuệ nhân tạo giúp các nhân viên đánh giá của chúng tôi xóa gần gấp năm lần số lượng video so với trước đây. Ngày nay, chúng tôi đã loại bỏ khoảng 98% video có liên quan tới chủ nghĩa cực đoan bạo lực bị gắn cờ đánh dấu bởi thuật toán trí tuệ nhân tạo của chúng tôi.

Những tiến bộ trong trí tuệ nhân tạo cho phép YouTube giảm gần 70% nội dung cực đoan bạo lực trong vòng tám giờ từ khi nó được tải lên và gần một nửa trong số đó chỉ trong hai giờ và chúng tôi sẽ còn tiếp tục đẩy nhanh tốc độ đó. Đặc biệt với công nghệ "machine learning" để đánh dấu nội dung bạo lực và cực đoan vào tháng 6, công nghệ này đã kiểm duyệt và gắn cờ với số lượng nội dung tương đương với 180.000 người làm việc và 40 giờ một tuần.

Susan Wojcicki, Giám đốc điều hành YouTube

Không chỉ nội dung video, đội ngũ kiểm duyệt cùng trí tuệ nhân tạo cũng sẽ 'lùng và diệt' những bình luận (comment) xấu.

Youtube dùng trí tuệ nhân tạo lùng diệt video nội dung xấu - Ảnh 4.

Đội ngũ kiểm duyệt được trợ lực bởi trí tuệ nhân tạo gia tăng hiệu quả kiểm soát clip nội dung xấu trên YouTube - Ảnh minh hoạ: THE REGISTER

Chính sách tải clip lên YouTube cũng bắt đầu được thắt chặt với những quy định cụ thể về nội dung. Những người dùng kiếm tiền từ các clip cắt ghép hay nội dung dung tục, kích động, vi phạm bản quyền... sẽ không còn có thể tạo ra doanh thu.

Theo bà Susan, năm 2018 YouTube sẽ có một báo cáo định kỳ, cung cấp dữ liệu tổng hợp về những video gắn cờ vi phạm mà YouTube nhận được, và những hành động kiểm duyệt được thực hiện để xóa các video và bình luận vi phạm chính sách nội dung của YouTube.

THANH TRỰC
Bình luận (0)
    Xem thêm bình luận
    Bình luận Xem thêm
    Bình luận (0)
    Xem thêm bình luận