Общество 12 февраля 17:53

Jigsaw: ИПП Perspective эффективно снижает токсичность в интернете

Компания Jigsaw, являющаяся структурным подразделением Google и занимающаяся прогнозированием возникающих цифровых угроз и разработкой средств противодействия им, объявила о том, что бесплатный ИПП Perspective с открытым исходным кодом, использующий машинное обучение для выявления токсичных комментариев, в настоящее время ежесуточно обрабатывает 500 миллионов запросов, существенно снижая токсичность и повышая качество общения в сети. В опубликованном третьем выпуске исследовательского онлайн-журнала The Current подробно рассказывается о постоянной и наносящей ущерб проблеме токсичности сетевых ресурсов и роли, которую могут играть в ее снижении такие инструменты машинного обучения как Perspective.

ИПП Perspective, появившийся в 2017 году для борьбы с токсичностью и проявлениями враждебности в сетевом общении, оценивает комментарии на основе их субъективно воспринимаемого влияния на ход обсуждения и позволяет платформам держать открытыми разделы комментариев для ведения увлекательных и продуктивных бесед.

«Токсичность в Интернете является крупномасштабной проблемой, которая оказывает несоразмерное влияние на обособленные социальные группы, создает угрозу независимой журналистике и сужает свободу самовыражения мнений и пространство для здорового общения, — считает глава компании Jigsaw Джаред Коэн (Jared Cohen). — По наблюдениям наших партнеров, Perspective значительно снижает токсичность на их платформах, позволяя им обеспечивать своим пользователям более безопасные пространства для обмена идеями. Мы серьезно настроены на сотрудничество с нашими партнерами и академическими учреждениями в целях непрерывного обучения и переобучения наших моделей для дальнейшего повышения качества их работы по выявлению токсичности и минимизации проявлений необъективности в поддержку более здорового общения».

Компания Jigsaw формировала Perspective с использованием моделей, разработанных совместно с подразделением Counter Abuse Technology («Технологии противодействия злоупотреблениям») компании Google, и теперь он расширяет возможности самых различных платформ в плане создания безопасного пространства для диалога посредством многоцелевого использования.