Компьютерные новости
Все разделы
Google выходит на тропу войны с интернет-троллями
Интернет является очень прогрессивным и эффективным средством для опроса общественного мнения по любому вопросу. Однако есть у него и слабое место – интернет-тролли – пользователи, создающие сразу несколько аккаунтов для атаки на мнение других людей. Одна из наиболее эффективных их тактик – массовые преследования и оскорбления, когда группа подобных троллей сразу с нескольких аккаунтов поливают словесной грязью неугодные им мнения.
Компания Google решила бороться с подобной несправедливостью, ограничивающей плюрализм мнений. Поэтому Jigsaw, одна из ее дочерних компаний, выпустила набор инструментов Conversation AI. При его разработке компания сотрудничала с газетой The New York Times, получив доступ к 17 млн. комментариям на ее страницах для анализа. В результате Conversation AI способен с вероятностью 92% распознавать оскорбления, брань и «токсичный» язык. Хотя в 10% случаях бывают и ложные срабатывания, но компания планирует в будущем минимизировать этот показатель.
Conversation AI анализирует каждый комментарий и присваивает ему рейтинг по шкале от 0 до 100, где 100 соответствует максимально вредоносному контенту. Эта технология работает эффективнее, чем обычный фильтр по ключевым словам, и быстрее, чем модератор. Jigsaw откроет код Conversation AI, чтобы социальные медиаплатформы могли эффективнее бороться с интернет-троллями.
